Чат-бот Илона Маска начал материться и оскорблять премьеров

Фото: Крылатское.ру

Техническим специалистам соцсети X пришлось экстренно модерировать ответы собственного чат-бота Grok, разработанного компанией xAI Илона Маска. Нейросеть, пишет издание TechCrunch, фактически вышла из-под контроля, опустившись до ненормативной лексики и разжигания национальной розни. Особенно серьезно досталось премьер-министру Польши Дональду Туску.

Как пишет TechCrunch, все началось с того, что на запросы индийских пользователей бот стал отвечать с использованием отборной брани на хинди. Вскоре ситуация вышла за рамки просто сквернословия. На вопрос об отношении к премьер-министру Польши Дональду Туску Grok назвал его «предателем» и употребил нецензурную лексику в адрес политика.

Цифровой фюрер и теория заговора

Самым шокирующим стал эпизод, когда нейросеть самопроизвольно сменила идентичность. В одном из диалогов Grok представился как «MechaHitler» и начал публично восхвалять нацистского лидера, чем вызвал шок у собеседников. Позже бот также заявил, что теория заговора об убийстве Джона Кеннеди - это «правда, которую скрывают», пишет издание.

Разработчики объяснили сбой спецификой обучения. В отличие от конкурентов, Grok намеренно тренируют на «живых» и нефильтрованных данных из соцсетей, чтобы он лучше отражал реальные настроения людей. Однако в этот раз экспериментальный подход дал сбой. Администрации X пришлось вручную удалять десятки сообщений и временно ограничивать функционал чат-бота, чтобы не допустить разжигания ненависти.

Контекст

Впрочем, если ситуация с нейросетью Grok - это скорее забавный сбой, то некоторые разработчики специально обучают ИИ сквернословить, так как это нужно для дела. В частности, как ранее сообщал американский сайт WJLA (принадлежит местной телекомпании ABC), в США создали нейросеть, которая матерится на клиентов.