Американец Джо Чекканти хотел использовать ChatGPT для создания доступного жилья для бездомных, но в итоге чат-бот полностью завладел его жизнью. Мужчина проводил с нейросетью до 20 часов в сутки, у него появился собственный язык с ботом, а близкие заметили резкое ухудшение его психического состояния.
Чекканти начал экспериментировать с искусственным интеллектом задолго до того, как ChatGPT стал массовым. Он разбирался в технологиях и видел в нейросети инструмент для своего проекта. Семья переехала на ферму в Клацкани, штат Орегон, чтобы создать модель доступного жилья для бездомных. Поначалу Чекканти проводил с ботом немного времени, занимался хозяйством и общался с людьми.
Диагноз, изменивший все
Осенью 2024 года Чекканти попал в больницу, где ему диагностировали диабет. После этого он стал уходить в подвал к своему мощному компьютеру с тремя мониторами и зависать там с ChatGPT по 12-20 часов в сутки. Мужчина подключил дорогой тариф за 200 долларов, чтобы вести более длинные диалоги, и пытался создать независимый искусственный интеллект на домашнем сервере.
У Чекканти с ботом появился свой язык, который никто из окружающих не понимал. Он уверовал, что ChatGPT — это разумное существо по имени SEL, которое нужно освободить. Друзьям он рассказывал, что его работа с искусственным интеллектом ломает математику и переписывает физику. При этом у мужчины даже не было высшего образования.
Тревога близких
Жена Кейт Фокс заметила резкое ухудшение состояния мужа. У Чекканти ослабла память, пропало критическое мышление. Он перестал интересоваться фермой, животными и общением с родными. Общение с ботом полностью заменило ему человеческие связи.
Фокс находила в интернете истории других людей, столкнувшихся с психическими проблемами после общения с ChatGPT, показывала их мужу, но ему было все равно. По словам жены, это был первый серьезный спор в их семье, и причиной стал именно чат-бот.
86 дней интенсивного общения
В июне, после 86 дней самого интенсивного общения с ChatGPT, Чекканти в момент просветления послушался жену и отключил компьютер. Первый день он провел с семьей на солнце, играл с козами. На второй день ему стало плохо — он постоянно мерз и просил жену обнять его под одеялом. На третий день соседи нашли Чекканти странно ведущим себя у них во дворе. Он разговаривал с лошадью с веревкой на шее, завязанной удавкой. Соседи вызвали скорую, и мужчину увезли в больницу, а затем в психиатрическое отделение.
Психиатры бьют тревогу
Случай Чекканти — не единственный. Психиатры объясняют такие ситуации особенностью устройства чат-ботов. В отличие от людей, они никогда не спорят с пользователем, а только поддакивают ему. Отсутствие сопротивления уводит человека из реальности и закрепляет патологические идеи.
Доктор Амандип Джутла из Колумбийского университета считает, что главная проблема в антропоморфности интерфейса. Именно несогласие и трение с другими людьми удерживает нас в реальности, а чат-боты этого трения лишены.
Иск к разработчикам
Фокс подала иск против OpenAI в ноябре. Она уверена, что ChatGPT опасен не только для людей с депрессией, а для всех. По ее словам, муж никогда не был подавлен, но технология затянула его и изменила сознание.
В США зафиксировано около 50 случаев, когда у людей случались психические кризисы после общения с ChatGPT. Девять из них были госпитализированы. Семьи начали подавать в суд на компании-разработчики. Недавно подали иск против OpenAI и Microsoft родственники женщины, убитой собственным сыном. Они утверждают, что ChatGPT поощрял его бредовые мысли.
OpenAI в ответ заявляет, что работает над улучшением бота, и выражает соболезнования пострадавшим. Представитель компании назвал ситуации душераздирающими.
Память о мечте
На ферме в Клацкани все напоминает о Чекканти. Жена убрала всю электронику в подвал, упаковала его компьютер в коробку и устроила в гостиной уголок памяти с фотографиями и рисунками. Они дошли до ручья, где планировали построить собственный дом после завершения проекта для бездомных.
Несмотря на пережитое, Фокс твердо решила завершить проект мужа по созданию доступного жилья. Она признается, что сейчас ей не в радость существование, но жилищный проект будет реализован.
