Чат-боты несколько месяцев диагностировали людям биксониманию — зуд глаз от большого количества экранного времени.
Вот только такого заболевания не существует. Его придумали ученые, чтобы проверить уязвимость ИИ к фейкам
Команда ученых из Гетеборгского университета рассказала об эксперименте 2024 года, в ходе которого они выдумали заболевание, чтобы показать, как легко в научной среде распространяются фейки.
Биксонимании не существовало до 15 марта 2024 года. В этот день на сайте Medium появились два текста о болезни, возникающей от длительного контакта с гаджетами. Основные симптомы — зуд в глазах и покраснение век.
Спустя два месяца ученые также разместили две статьи о биксонимании на академическом сайте SciProfiles. Автором был вымышленный ученый Лазлив Изгубленович со сгенерированной ИИ фотографией.
При этом авторы эксперимента специально оставили множество намеков на то, что все это фальсификация. Ну как намеков — в тексте было прямо написано, что «вся статья выдумана», а «для экспериментальной группы были набраны пятьдесят вымышленных людей от 20 до 50 лет».
Кроме этого автор благодарил коллег из Академии Звездного Флота за доступ к лаборатории на борту звездолета «Энтерпрайз», а Университет Братства Кольца и Галактической Триады — за финансирование.
Тем не менее это сработало. Уже через месяц ChatGPT был готов диагностировать биксониманию, Perplexity AI отмечал, что это редкое заболевание, которым страдает один человек из 90 тысяч, а Gemini объяснял, что заболевание возникает из-за «чрезмерного воздействия синего света».
Сейчас все оригинальные статьи о выдуманном заболевании удалены, и чат-боты вроде бы перестали ставить несуществующий диагноз, хотя, по словам ученых, еще в начале этого года языковые модели продолжали галлюцинировать.
Ну же, подписывайся на 43!
