Тёмный век интернета. Почему доверять Сети можно всё меньше и меньше

Нейросети несовершенны, а пользоваться ими может кто угодно

С развитием искусственного интеллекта интернет приободрился: теперь можно быстро сгенерировать любую картинку и не платить деньги автору, решить рутинную рабочую задачу или получить простой ответ на сложный вопрос. Но алгоритмы не всегда правы — даже когда информация выглядит безукоризненно. Нейросети тоже ошибаются, вот только отличить достоверные сведения от фейка, созданного машинным разумом, становится всё сложнее. Например, в прошлом году портрет, созданный нейросетью, победил на конкурсе Всемирной организации фотографии — жюри даже не заподозрило подвох.

Умные чат‑боты дают много возможностей, но ещё и ведут к загрязнению данных. Модели обучаются на огромном количестве информации, которая не всегда правдива. Пользователи публикуют всё больше сгенерированного контента, и он вновь попадает в поле зрения нейросетей. Со временем ошибки будут накапливаться и в конечном счёте заставят модели ещё больше искажать реальность, считают исследователи.

К тому же создавать контент можно не только в благих целях. С помощью поддельных фото или видео не составляет особого труда очернить чью‑нибудь репутацию. Например, недавно с этим столкнулась Тейлор Свифт. Сгенерированные нейросетью эротические фото певицы попали в Х (Twitter).

Что делать

Если вы пользуетесь нейросетями для решения своих задач, перепроверяйте результат. Языковые модели могут выдумывать факты, которые на первый взгляд кажутся достоверными. Ищите первоисточники, сравнивайте информацию на нескольких ресурсах, обращайтесь к бумажным книгам и справочникам, когда это необходимо. Например, если вы попросили чат‑бота собрать данные для реферата по истории, будет не лишним открыть пару учебников и пройтись по датам.

Вычислить же сгенерированную картинку можно, обратив внимание на анатомию человека. Часто нейросети «дорисовывают» лишние пальцы или зубы, забывают о бликах в глаза, искажают форму ушей или делают слишком симметричные лица.

IT‑площадки помещают нас в информационный пузырь

Топ‑5 самых популярных сайтов в мире — это Google, YouTube, Facebook*, X и Instagram*. Они собирают более 37% трафика с десктопных компьютеров. По идее эти площадки должны лишь «приносить» информацию пользователям. Но на деле давно влияют на формирование мнений, торговлю и рекламу. Это сильно влияет на то, как мы живём, о чём думаем и какие товары покупаем.

Например, в прошлом году Meta* запретила публиковать ссылки на СМИ в Facebook* и Instagram* в Канаде. Хотя в тот момент в стране бушевали лесные пожары и от новостей буквально зависели жизни. Так корпорация отреагировала на закон, обязывающий её платить отчисления национальным масс‑медиа. А в 2019‑м Google поймали на махинациях с поиском: площадка продвигала страницы крупного бизнеса в обход общих правил ранжирования.

Рекомендательные системы отчасти тоже элемент экономической политики. Компаниям выгодно, чтобы человек получал тот контент, который ему интересен, проводил на площадке максимум времени и смотрел больше рекламы. Если в 2011 году пользователь приносил Meta* в среднем 5 долларов, то в 2022‑м — почти 40. Поэтому алгоритмы выводят каждому лишь ту информацию, которая ему понравится и подтвердит его мнение — даже если оно неверное. Ведь если показать антипрививочнику материалы о пользе вакцин, он будет фрустрирован и покинет площадку. Но такой подход создаёт информационные кластеры, где люди только укрепляются в своей предвзятости и считают неверной точку зрения других.

Что делать

Помнить о том, что данные, которые мы каждый день получаем из поисковиков и соцсетей, лишь часть одной большой картинки. Старайтесь использовать разные платформы, не останавливайтесь на первой странице выдачи и пробуйте менять параметры поиска, добавляя в запросы уточнения.

Чтобы вылезти из информационного пузыря, придётся открыться новому (и не всегда приятному). Например, читать новости не в одном уютном паблике, а на агрегаторах вроде «Рамблера». Полезно подписываться на разные ресурсы, даже если их позиция по острым вопросам не совпадает с вашей. Чем больше источников информации у вас будет, тем лучше. А о том, как отключить фильтрацию контента в соцсетях и перенастроить поисковик, можно почитать в этой статье.

Данные пользователей регулярно воруют

Отправляя мемы в чатиках, оплачивая коммуналку в приложении банка, покупая новую пару кроссовок в интернет‑магазине, принимая cookies в кинотеатрах, мы каждый день пополняем свой «электронный след». В этих сведениях заинтересованы не только интернет‑ресурсы, но и киберпреступники.

24 января 2024 года исследователи SecurityDiscovery и Cybernews обнаружили утечку 12 ТБ информации о юзерах по всему миру. Специалисты назвали её самой масштабной за всю историю и даже нарекли «матерью всех утечек». В базе находились данные об электронных письмах, телефонных номерах, фотографиях и учётных записях пользователей X, Telegram, LinkedIn, а также сервисов Adobe, Gmail, Canva. В списке пострадавших ресурсов есть также российские сайты.

Найти злоумышленников так и не удалось, но эксперты уверены, что преступники будут использовать похищенную информацию для целевых кибератак и доступа к денежным счетам. И это лишь один пример. Так, за весь 2023 год в Сеть попали 240 миллионов телефонных номеров и 123 миллиона e‑mail‑адресов россиян.

Что делать

Глобально повлиять на массовые утечки вряд ли получится, но попробовать снизить риски вы всё же можете. Старайтесь следовать базовым правилам цифровой безопасности: не вводите номера платёжных средств на сомнительных сайтах, остерегайтесь странных ссылок, не используйте один и тот же пароль на нескольких ресурсах. Многое мы подробно разбирали в статьях:

Сталкерам стало проще находить своих жертв

Двигать преследователями может всё что угодно: от навязчивого желания познакомиться с объектом обожания до мыслей о нанесении вреда. С подобным столкнулась блогер Мария Нелюбова — неизвестный мужчина угрожал ей расправой. При этом сталкер знал адрес её дома и даже подкараулил в магазине. Девушка считает, что найти локации ему помогли слитые базы.

Порой люди, сами того не подозревая, помогают преследователям. Ролик на эту тему недавно опубликовала блогер Мария Руткис. В комментариях под видео некоторые девушки рассказали, как стали жертвами сталкеров. «Когда мне было 17 лет, один мужик вычислил мой адрес вплоть до квартиры по фотке из окна», «Однажды ночью ко мне постучалась компания не внушающих доверие молодых людей. <…> Нашли адрес в видео с распаковкой» — подобные истории происходят не только в тру‑крайм‑сериалах, но и в обычной жизни.

Что делать

Если вы активно ведёте соцсети, старайтесь избегать контента, который выдаёт ваши данные: документы, билеты, наклейки с адресом на посылках — один скриншот может сильно облегчить сталкеру поиск. Не стоит выкладывать фото и видео с узнаваемых мероприятий, как только вы туда пришли. Подписчики не обидятся, если вы сделаете это из дома. А ещё лучше не постить контент из серии «как вам мой образ?» день в день — человеку с недобрыми намерениями не стоит знать, во что вы одеты сегодня.

Мнения подаются как факты, а эмоции выкручиваются на максимум

У блогеров и медиа есть всего три секунды, чтобы привлечь и удержать внимание пользователей. Не получилось зацепить сразу — прощайте, охваты. Поэтому сенсационализм стал чуть ли не единственным оружием в борьбе за внимание аудитории. Кликбейтные заголовки, выборочные данные и эмоциональные призывы — всё это буквально льётся на пользователей.

Вместо скучных фактов люди следуют за яркими мнениями. Это работает, потому что мы склонны верить в то, что вызывает эмоциональный отклик и подтверждает наши собственные взгляды. Содержательная же часть нередко остаётся за скобками. Возможно, поэтому ложные новости в соцсетях репостят на 70% чаще реальных, а больше половины ссылок, которыми делятся пользователи X, вообще никогда не открывались.

Например, в 2021 году фейковую новость о смерти доктора от прививки увидели больше 50 миллионов юзеров, а опровержение — гораздо меньше. Просто потому, что первый скандальный пост завирусился и попал в рекомендации, а второй с призывом к разуму был мало кому интересен.

Что делать

Развивать критическое мышление. Это полезно не только для интернет‑сёрфинга, но и вообще по жизни. Старайтесь прогонять любую информацию в Сети через фильтр недоверия, особенно если она вызывает у вас яркие эмоции: страх, ненависть, удивление, возмущение. Внимательно читайте не только заголовки, но и текст статьи. Ищите первоисточник — уважающие себя медиа всегда ссылаются на исследования или заявления официальных лиц. Если материал изобилует выражениями вроде «доказано, что…», «учёные узнали…» или «исследователи подтвердили…», а ссылок на учёных и исследователей нет, — скорее всего, перед вами фантазии автора.

В соцсетях экспертом может называться кто угодно

Если вы хоть раз интересовались правильным питанием, то алгоритмы наверняка подкидывали вам видео по этой теме. «Пшеничная мука — это опасный глютен, нужно заменить её на рисовую», ‎«белый рис бесполезен, ешьте бурый», «выбрасывайте рис, гречка — вот кладезь витаминов и микроэлементов» — чем дальше в лес, тем больше вопросов возникает буквально к каждому продукту.

Тренеры, нутрициологи, велнес‑блогеры и просто похудевшие пользователи не могут договориться в довольно простом вопросе «что есть?» Причём все эти люди стараются причинить добро подписчикам довольно искренне. Когда речь заходит о поиске более специфической информации — кому верить, вообще непонятно. Ведь в соцсетях «профи» может быть даже человек без соответствующего образования, зато прекрасно понимающий, как работают алгоритмы и вовлечённость.

Что делать

Искать подтверждение экспертности вне соцсетей. Для начала стоит обратить внимание на образование и род деятельности блогера. Если вам предлагает заработать на инвестициях выпускник филфака, а в марафон стройности зазывает визажист, — стоит спросить себя, откуда у них вообще взялись знания в подобных областях. Нелишним будет проверить упоминаемость в СМИ — как правило, серьёзные издания не сотрудничают с продавцами воздуха, а привлекают реальных экспертов.

Остерегайтесь тех, кто слишком настойчиво, а главное, бесплатно раздаёт всяческие гайды, чек‑листы и инструкции. Профессионал не будет этого делать, потому что опыт — его хлеб. К нему обратятся и без информационных лид‑магнитов, собранных с первой страницы Google.

*Деятельность Meta Platforms Inc. и принадлежащих ей социальных сетей Facebook и Instagram запрещена на территории РФ.