اطلاعات دروغین و موتورهای جستجو

به گزارش صدای حوزه موتورهای جستجو اولین دروازه‌های جامعه به روی اطلاعات و افراد محسوب می‌شوند؛ ولی آنها حامل هایی برای انتقال اطلاعات دروغ نیز هستند.

مثل الگوریتم‌های مشکل آفرین شبکه‌های اجتماعی، موتورهای جستجو نیز از روی کلیک‌هایی که قبلا شما و دیگران کرده‌اید، یاد می‌گیرند چگونه به شما کمک کنند. از آنجا که مردم معمولا به مسائل مهیج و جالب گرایش دارند، این رقص بین الگوریتم‌ها و ماهیت انسان می‌تواند عاملی شود برای تقویت هرچه بیشتر اطلاعات دروغین.

درآمد موتورهای جستجو از فروش اطلاعات کاربران

شرکت های موتورهای جستجو مثل اکثر سرویس‌های آنلاین نه تنها از فروش آگهی‌های تبلیغاتی بلکه از ردگیری کاربران و فروش داده‌های آنها در مزایده‌ها، پول در می‌آورند که در زمان مشخص و به طور مستمر برای خرید این داده‌ها برگزار می شود.

معمولا به دلیل تمایل مردم به اخبار مهیج و سرگرم کننده و نیز اطلاعاتی که یا مجادله برانگیز هستند یا بر دیدگاه‌های خود آنها مهر تایید می‌گذارند، به سمت اطلاعات دروغین هدایت می‌شوند. یک مطالعه نشان داده احتمال اینکه ویدئوهای کم‌طرفدار یوتیوپ درباره دیابت دارای اطلاعات معتبر پزشکی باشد بیشتری است، تا مثلا ویدئوهای پرطرفدار درباره این موضوع.
موتورهای جستجو که محرک اصلی آن‌ها آگهی‌های تجاری هستند، مثل پلتفرم‌های شبکه‌های اجتماعی،  برای این طراحی شده‌اند که به کلیک کردن روی لینک‌های اغواکننده پاداش دهند؛ چون این کار به موتورهای جستجو کمک می‌کند تا کمیت‌های کسب و کار خود را رونق ببخشند.

من به عنوان پژوهشگری که در مورد سیستم‌های جستجو و توصیه‌گر مطالعه می‌کنم، به همراه همکارانم نشان داده‌ایم که این آمیزه خطرناک از «انگیزه سود شرکتی» و «مستعد بودن ماهیت انسان‌ها»، باعث می‌شود که حل این مشکل دشوارتر شود.

چگونه نتایج جستجو می تواند غلط از کار دربیاید؟

وقتی روی نتیجه یک جستجو کلیک می‌کنید، الگوریتم‌های جستجو می‌آموزند لینکی که روی آن کلیک کرده‌اید با پاسخی که در کنکاش خود به دنبال آن هستید مرتبط است. به این روند «بازخورد مرتبط» می گویند.

این بازخورد به موتور جستجو کمک می‌کند تا در آینده وزن بیشتری را به لینک مرتبط با این کنکاش بدهد. اگر افراد به تعداد کافی و به دفعات کافی روی آن لینک کلیک کنند، بازخورد مرتبط قدرتمندی به آن می‌دهند که در صفحه نتایج جستجو برای آن کنکاش و کنکاش های مرتبط دائم بالاتر می‌آید.

احتمال اینکه مردم روی لینک‌هایی کلیک کنند که در جایگاه بالاتری از فهرست نتایج جستجو به نمایش در می آیند بیشتر است. این یک چرخه بازخورد مثبت را ایجاد می‌کند؛ هرچه یک وبسایت مربوطه در فهرست نتایج در جای بالاتری به نمایش دربیاید، کلیک‌های بیشتری روی آن می شود و این نیز به نوبه خود باعث می شود که جایگاه آن وبسایت در فهرست بالاتر بیاید یا بماند.

واکنش کاربران در گسترش اطلاعات دروغ

این مشکل «اشاعه اطلاعات دروغ» دو جنبه دارد: اینکه یک الگوریتم جستجو چگونه عناوین، تیترها و تکه‌های اطلاعات را مورد ارزشیابی قرار می‌دهد و اینکه انسان ها چگونه به آنها واکنش نشان می‌دهند.

موتورهای جستجو مثل اکثر سرویس های آنلاین با استقاده از مجموعه‌ای از کمیت‌ها قضاوت خود را انجام می دهند که یکی از آنها میزان دخالت کاربر است.  یکی از راه‌هایی که منافع شرکت‌های موتور جستجو به بهترین شکل تامین می شود، این است که چیزهایی را به شما عرضه کنند که می‌خواهید بخوانید، تماشا کنید یا صرفا روی آنها کلیک کنید.

از این رو در حالی که یک موتور جستجو یا هر سیستم توصیه گری، فهرستی از اقلام را برای عرضه کردن تهیه می‌کند، این احتمال را که شما روی این اقلام کلیک خواهید کرد یا نه را نیز محاسبه می‌کند.

ارتبط مخدوش بین اطلاعات با حقیقت

به طور سنتی این بدان معنی است که اطلاعاتی عرضه شوند که بیشترین ربط را دارند. با این حال امروزه مفهوم ربط داشتن مخدوش شده، چون مردم از موتور جستجو هم برای یافتن نتایج جستجوی سرگرم کننده و هم اطلاعات حقیقتا مرتبط استفاده کرده اند.
تصور کنید که در حال گشتن به دنبال یک کوک کننده پیانو هستید. اگر یک نفر ویدئویی از گربه‌ای در حال پیانو زدن را به شما نشان دهد، آیا روی آن کلیک خواهید کرد؟ خیلی‌ها این کار را می‌کنند، حتی اگر هیچ ربطی به کوک کردن پیانو نداشته باشد.

موتور این کلیک را به منزله بازخورد مرتبط مثبت قلمداد می کند و یاد می گیرد که نشان دادن گربه ای که پیانو می‌زند در حالی که در جستجوی کوک‌کنندگان پیانو هستید اشکالی ندارد!
در واقع در بسیاری موارد این کار حتی از نشان دادن نتایج مرتبط نیز بهتر است. مردم از تماشای ویدئوهای بامزه گربه ها خوششان می آید و کلیک های بیشتر و دخالت کاربر بیشتری گیر سیستم جستجو می آید.
شاید این کار بی آزار به نظر آید. اما اگر  حواس مردم دم به دم پرت شود و روی نتایجی کلیک کنند که به کنکاش اصلی شان مرتبط نمی شوند چه؟ مشکل این است که مردم به سمت تصاویر جالب و تیترهای مهیج جذب می شوند. آنها بیشتر تمایل دارند روی تئوری های توطئه و اخبار احساساتی و مهیج کلیک کنند نه فقط گربه هایی که پیانو می نوازند؛ آنها این کار را بیشتر از کلیک کردن روی اخبار واقعی یا اطلاعات مرتبط دوست دارند.

عنکبوت های معروف اما جعلی

در سال ۲۰۱۸ به دنبال یک پست فیس بوکی که ادعا می‌کرد عنکبوت مرگبار جدیدی چندین نفر را در چند ایالت کشته، جستجوها برای «عنکبوت مرگبار جدید» به اوج خود رسید. من و همکارانم در طول هفته اول این جستجوی در حال داغ شدن، ۱۰۰ نتیجه اول به دست آمده از جستجوی گوگل برای «عنکبوت مرگبار جدید» را مورد تجزیه و تحلیل قرار دادیم.
روشن شد که این داستان جعلی است، ولی کسانی که برای کسب اطلاعات این کلمات را جستجو می‌کردند، عمدتا در معرض اطلاعات دروغ مرتبط با پست جعلی اولیه قرار می‌گرفتند. با ادامه کلیک‌های مردم و به اشتراک گذاشتن این اطلاعات دروغین، گوگل همچنان با نشان دادن این صفحات در بالای فهرست نتایج جستجوی خود به آنها خدمت می‌کرد.
این الگو از داستان‌های دلهره‌آور و تایید نشده  هر روز بیشتر  تکرار می‌شود، کلیک کردن مردم روی آن‌ها نیز همچنان ادامه دارد و مردم آشکارا یا دغدغه‌ای از بابت حقیقت ندارند یا باور دارند که اگر یک سرویس مورد اعتماد همچون موتور جستجوی گوگل این داستان‌ها را به آن‌ها نشان می‌دهد، پس حتما این داستان‌ها حقیقت دارند. در نمونه‌ای اخیرتر یک گزارش ثابت نشده که ادعا می‌کرد چین ویروس کرونا را از یک آزمایشگاه به بیرون درز داده، به دلیل وجود همین چرخه معیوب به بالای فهرست موتورهای جستجو راه یافتند.

شناسایی اطلاعات دروغین

برای آزمایش اینکه مردم چقدر بین اطلاعات دقیق و اطلاعات دروغین فرق می‌گذارند، ما بازی ساده ای به اسم «گوگل یا نه» طراحی کردیم. این بازی آنلاین دو مجموعه از نتایج را به عنوان پاسخ یک کنکاش نشان می‌دهد. هدف ساده است؛ انتخاب مجموعه‌ای که معتبر، موثق و بیش از هم مرتبط است.
در یکی از این دو مجموعه یک یا دو نتیجه وجود دارد که یا تایید شده است و به عنوان اطلاعات دروغین برچسب خورده یا داستانی است که نادرست بودنش معلوم شده. ما این بازی را در دسترس همه قرار دادیم و از طریق چندین کانال شبکه اجتماعی در مورد آن تبلیغ کردیم. به طور کلی ۲۱۰۰ پاسخگو از بالغ بر ۳۰ کشور این بازی را انجام دادند.
وقتی نتایج را مورد تجزیه و تحلیل قرار دادیم، دریافتیم که در حدود نیمی از موارد، مردم یک مجموعه موثق دارای یک یا دو نتیجه اطلاعات دروغین را به اشتباه انتخاب کرده اند. آزمایش های ما با صدها کاربر دیگر به یافته‌های مشابهی منتج شده است.

چرخه معیوب ادامه‌دار

به عبارت دیگر حدود نیمی از مواقع مردم نتایجی را انتخاب می‌کنند که حاوی تئوری های توطئه و اخبار جعلی است. هرچه تعداد کسانی که این نتایج غلط یا گمراه کننده را انتخاب می‌کنند بیشتر باشد، موتورهای جستجو بیشتر یاد می‌گیرند که مردم چه می‌خواهند.
گذشته از مقررات «مسائل شرکت های بزرگ فناوری» و خودقانونگذاری‌هایی که باید انجام شوند، این نکته نیز اهمیت دارد که مردم درک درستی از نحوه کار این سیستم ها و نحوه پول در آوردن آنها پیدا کنند. در غیر این صورت اقتصادهای بازار و تمایل طبیعی انسان‌ها که به سمت لینک‌های چشم نواز جلب می‌شوند، باعث خواهد شد که این چرخه معیوب و زیان‌بار همچنان به کار خود ادامه دهد.