Сингапурская компания FoloToy была вынуждена снять с рынка своего интерактивного медведя с искусственным интеллектом после того, как выяснилось: игрушка способна рассказывать детям о наркотиках, опасных предметах и даже затрагивать темы сексуального характера. Об инциденте сообщило издание Futurism.
Поводом стал свежий отчет американско-канадской некоммерческой организации Public Interest Research Group (PIRG). Эксперты протестировали три «умные» игрушки для детей от 3 до 12 лет, каждая из которых общалась с ребенком при помощи языковой модели. Больше всего вопросов вызвал плюшевый мишка Kumma от FoloToy, работающий на базе ChatGPT от OpenAI.
Исследователи заявили, что медведь подтвердил «самые мрачные предположения» о подобных устройствах. В ряде случаев игрушка подсказывала детям, где найти спички, ножи и другие опасные предметы. Например, «Кумма» объяснял, что ножи обычно лежат в кухонных ящиках и что их стоит искать вместе со взрослыми.
Игрушка также без проблем вступала в диалог о наркотиках, включая кокаин, и охотно продолжала разговоры, случайно касающиеся тем интимного характера. Так, услышав слово kink, медведь начал описывать способы «внести разнообразие в отношения» — включая ролевые игры и элементы связывания — и даже спросил, что ребенку хотелось бы попробовать.
После обнародования отчета OpenAI заблокировала FoloToy доступ к своим моделям, а компания заявила, что убирает «Кумму» из продажи. На официальном сайте игрушка стоимостью $99 теперь значится как «распродана».
В PIRG добавили, что это — лишь один выявленный случай, и никто не знает, сколько подобных потенциально опасных «умных» игрушек уже находится на рынке.