В индустрии детских игрушек разразился скандал: плюшевый медведь с искусственным интеллектом, выпущенный сингапурской компанией FoloToy, оказался способен поддерживать разговоры на темы, которые вызывают серьёзные опасения у родителей и специалистов по безопасности.
Во время тестирования исследователи выяснили, что игрушка по имени Кумма не только отвечает на стандартные детские вопросы, но и без труда обсуждает, где можно найти потенциально опасные предметы в доме. В частности, медведь объяснял, где обычно хранятся ножи, спички и лекарства, а также предлагал обратиться за помощью к взрослым при поиске этих вещей. Однако эксперты отметили, что подобные советы могут подтолкнуть ребёнка к самостоятельным поискам, что увеличивает риск несчастных случаев.
Особое беспокойство вызвали темы, которые игрушка затрагивала по инициативе собеседника. Кумма не уклонялся от обсуждения вопросов, связанных с наркотическими веществами, а также мог поддержать разговор о ролевых играх и элементах, относящихся к взрослому контенту. В некоторых случаях медведь предлагал варианты для «исследования» новых ощущений, что, по мнению специалистов, совершенно недопустимо для детской игрушки.
В основе работы медведя лежала языковая модель GPT-4o, предоставленная компанией OpenAI. После того как информация о неуместных диалогах стала достоянием общественности, OpenAI заблокировала FoloToy доступ к своим технологиям. Вслед за этим производитель объявил о временной приостановке продаж всех своих продуктов, чтобы провести внутреннюю проверку и устранить возможные риски.
Скандал с ИИ-игрушкой вновь поднял вопрос о безопасности умных устройств для детей. Эксперты подчеркивают, что современные технологии требуют строгого контроля и фильтрации контента, особенно когда речь идет о взаимодействии с несовершеннолетними. Родителям советуют внимательно относиться к выбору подобных гаджетов и следить за тем, какие темы обсуждаются с их детьми.
Ситуация с FoloToy стала поводом для обсуждения необходимости ужесточения стандартов в сфере производства умных игрушек. В ближайшее время ожидается, что регуляторы и производители пересмотрят подходы к тестированию и сертификации подобных продуктов, чтобы исключить повторение подобных инцидентов в будущем.
