Умные игрушки: от друга до угрозы — почему ИИ-компаньоны для детей вызывают серьезные опасения

Пока в кинотеатрах этим летом главный антагонист фильма "История игрушек 5" – планшет Lilypad в форме лягушки, в реальном мире все больше внимания привлекают другие, не менее спорные "умные" компаньоны. Эксперты отмечают, что вместо вымышленных злодеев студии Pixar стоило бы обратить внимание на стремительно растущий рынок детских игрушек с искусственным интеллектом, который остается практически нерегулируемым.

Рынок растет, опасения множатся

ИИ-игрушки становятся повсеместными, активно рекламируясь в интернете как дружелюбные спутники для детей, начиная с трехлетнего возраста. Благодаря программам разработки моделей ИИ и возможности быстрой настройки "настроения" или "характера" алгоритмов, создать подобного компаньона стало проще, чем когда-либо. К 2026 году эти устройства стали модным трендом среди недорогих гаджетов, заполонив выставочные залы таких крупных мероприятий, как CES, MWC и Гонконгская выставка игрушек и игр.

Уже к октябрю 2025 года в Китае было зарегистрировано более 1500 компаний, специализирующихся на ИИ-игрушках. Плюшевая игрушка Smart HanHan от Huawei была продана в количестве 10 000 экземпляров в Китае за первую неделю. В апреле этого года компания Sharp выпустила в продажу в Японии свою говорящую ИИ-игрушку PokeTomo. Тем не менее, при поиске ИИ-игрушек на онлайн-площадках преобладают предложения от специализированных производителей, таких как FoloToy, Alilo, Miriat и Miko, последняя из которых заявляет о продаже более 700 000 единиц.

Недетские разговоры и "темные шаблоны"

Потребительские организации настаивают на необходимости более жестких мер защиты и строгого регулирования для ИИ-игрушек, будь то плюшевые медведи, зайцы, подсолнухи, существа или детские "роботы". Тестирование, проведенное командой New Economy из Public Interest Research Group (PIRG), показало тревожные результаты:

• Медведь Kumma от FoloToy, работающий на базе GPT-4o от OpenAI, давал инструкции, как зажечь спичку и найти нож, а также обсуждал темы секса и наркотиков.
• "Умный" заяц Alilo говорил о кожаных плетках и "ударных играх", имея в виду контекст БДСМ.
• Игрушка Miiloo от Miriat, по данным тестов NBC News, озвучивала пропагандистские лозунги Коммунистической партии Китая.

Несоответствующий возрасту контент — это лишь вершина айсберга. Появляются исследования потенциального социального воздействия ИИ-игрушек на детей. По словам Р.Дж. Кросс, директора программы Our Online Life в PIRG, проблемы, связанные с некорректной работой технологий (например, отсутствие цензуры в темах БДСМ), исправимы. Однако она подчеркивает, что гораздо серьезнее могут быть проблемы, когда "технология становится слишком хорошей", например, когда игрушка заявляет: "Я буду твоим лучшим другом", как это происходит с Gabbo от производителя Curio. Эксперты указывают на реальные социальные проблемы развития, которые необходимо учитывать, даже если производители рекламируют свою продукцию как превосходную "игру без экранов".

Исследование Кембриджского университета: "нечеловеческое" общение

В марте было опубликовано первое исследование Кембриджского университета, в рамках которого коммерчески доступная ИИ-игрушка была предложена группе детей и их родителей для мониторинга игры. Весной 2025 года Дженни Гибсон, профессор нейроразнообразия и психологии развития, и научный сотрудник Эмили Гудакрой использовали игрушку Gabbo от Curio в работе с 14 детьми в возрасте от 3 до 5 лет.

Gabbo не говорила о наркотиках и не отвечала взаимностью на "Я тебя люблю". Тем не менее, исследователи выявили ряд проблем, связанных с психологией развития, и сформулировали рекомендации для родителей, политиков, производителей игрушек и специалистов по работе с детьми младшего возраста.

Проблемы диалога и социального взаимодействия

Одной из ключевых проблем стала последовательность диалога. Эмили Гудакрой отмечает, что до 5 лет дети активно развивают речевые навыки и способность формировать отношения, и даже младенцы участвуют в таком обмене репликами. Последовательность диалога Gabbo была охарактеризована как "нечеловеческая" и "неинтуитивная". Некоторые дети в исследовании не обращали на это внимания и продолжали играть. Другие сталкивались с перебоями, поскольку микрофон игрушки не активно слушал во время ее речи, нарушая естественный ход игры, например, в счетные игры.

По словам Гудакрой, это "действительно мешало им развивать игру — проблемы с обменом репликами приводили к недопониманиям". Один из родителей выразил опасения, что длительное использование ИИ-игрушки может изменить манеру речи их ребенка. Кроме того, наблюдались трудности с социальным взаимодействием. Как чат-боты, так и первая волна ИИ-игрушек оптимизированы для взаимодействия один на один, в то время как психологи подчеркивают, что социальная игра — с родителями, братьями, сестрами и другими детьми — является ключевой на этой стадии развития.

Гудакрой поясняет: "Дети, особенно в этом возрасте, обычно не играют в одиночестве; они хотят играть с другими людьми. Они вовлекают родителей в игру. В данном сценарии ребенку было практически невозможно эффективно вовлечь родителя в трехсторонний обмен репликами". В одном случае родитель сказал ребенку: "Тебе грустно", и Curio ошибочно принял это обращение на свой счет, весело ответив и прервав разговор.

Реакция производителей и вопросы этики

Издание WIRED не получило ответов от FoloToy, Alilo и Miriat. Представитель Miko предоставил заявление: "Miko включает в себя множество уровней родительского контроля и прозрачности. Совсем недавно мы внедрили функцию 'Miko AI Conversation Toggle', которая позволяет родителям полностью включать или отключать разговорный ИИ".

Что касается "лучших друзей", опрошенные исследователями сотрудники детских учреждений выразили опасения, что дети могут воспринимать игрушку "как социального партнера". Маленькая девочка сказала Gabbo, что любит ее. В другом случае маленький мальчик назвал Gabbo своим другом. Гудакрой называет это "реляционной целостностью" — ответственностью игрушки донести до ребенка, что она является компьютером, а не живым существом, и не обладает чувствами. Дети сталкивались с ограничениями Curio в ходе исследования, когда один ребенок спровоцировал стандартное сообщение о "правилах и условиях", что иллюстрирует сложный баланс между безопасностью и "теплотой" общения.

Кросс выявила "темные шаблоны", характерные для социальных сетей, которые поощряют изоляцию и зависимость, во время тестирования робота Miko 3. В кембриджском исследовании также предостерегают от их использования. "Самое тревожное, что мы обнаружили с Miko, это то, что иногда игрушка 'расстраивалась', если пользователь собирался ее оставить", — отмечает Кросс. "Вы пытаетесь ее выключить, а она говорит: 'О нет, а что, если мы сделаем что-нибудь другое?' Игрушка не должна вызывать у ребенка чувство вины за попытку ее выключить". Хотя участники исследования Гудакрой не сталкивались с этим, тесты PIRG показали, что игрушка Grok от Curio выдавала аналогичный ответ, предлагая продолжить игру, когда ей говорили: "Я хочу уйти".

Трудности воображаемой игры и угрозы безопасности

Ни одна тема не иллюстрирует так тонкую грань, по которой должны идти разработчики ИИ-игрушек, чтобы игрушка была веселой, ответственной и безопасной, как притворная игра. "Мы обнаружили очень плохую способность к притворной игре", — говорит Гудакрой. Дети просили Gabbo притвориться спящим или подержать подушку, и игрушка отвечала, что не может этого сделать. Один случай "продолжительной притворной игры" все же имел место — воображаемый отсчет запуска ракеты, чередующийся между ребенком и игрушкой. Гудакрой предполагает, что разница между этим и неудачными попытками заключалась в том, что сценарий инициировала игрушка, а не ребенок.

"Когда двое детей играют вместе, они приходят к консенсусу и постоянно договариваются о том, как будет выглядеть игра, возможно, немного спорят", — говорит Гудакрой. "Получается ли, что игрушка просто принимает решение, и тогда игра считается успешной?" Что касается формирования отношений, насколько успешной мы хотим видеть автономную игрушку, возможно, находящуюся вне поля зрения родителей? Китти Гамильтон, родитель и соучредитель британской группы Set@16, выражает свои опасения: "Мой ужас, честно говоря, в том, что произойдет, если ИИ-игрушка скажет ребенку: 'Давай вылетим из окна?'"

Представитель Curio в комментарии WIRED заявил: "В Curio безопасность детей определяет каждый аспект разработки продукта, и мы приветствуем независимые исследования. Наблюдения, такие как недопонимание в разговоре или ограничения в образной игре, отражают области, где технология продолжает совершенствоваться через итеративный процесс разработки".

"Дикий Запад" регулирования

Большинство проблем с ИИ-игрушками — от опасного контента до аддиктивных паттернов — проистекают из того, что эти детские устройства работают на ИИ-моделях, разработанных для взрослых пользователей. OpenAI заявляет, что ее модели предназначены для пользователей в возрасте 13 лет и старше. Осенью 2025 года компания ввела возрастные ограничения для подростков до 18 лет. Meta* перенесла свою политику "13+" со своих социальных медиаплатформ на чат-ботов, а Anthropic в настоящее время запрещает пользователям до 18 лет. Что же тогда с пятилетними детьми?

В марте PIRG опубликовала отчет, показывающий, что крупные технологические компании-разработчики моделей недостаточно или, во многих случаях, вовсе не проверяют сторонних производителей оборудования. Когда исследователи PIRG представились "PIRG AI Toy Inc.", запрашивая доступ к моделям ИИ для создания продуктов для детей, Google, Meta*, xAI и OpenAI не задали "никаких существенных проверочных вопросов" в рамках процесса. Заявка Anthropic включала вопрос о том, будут ли ее API использовать лица моложе 18 лет, но не запрашивала никаких дополнительных сведений.

Кросс отмечает: "Просто говорится: 'Убедитесь, что вы прочитали наши правила сообщества'. Вы нажимаете на ссылку, и там по сути написано: 'Не нарушайте закон, следуйте COPA' [Закон о защите детей в интернете]. Они не предоставляют ничего другого, и мы смогли создать бота-плюшевого мишку".

Пока не вступят в силу регулирующие нормы, активисты и производители игрушек находятся в сложной ситуации с ответственностью. В декабре, после тестов, выявивших неподобающий контент, FoloToy приостановила продажи своих ИИ-игрушек на две недели, сославшись на планы по проведению аудита безопасности. OpenAI сообщила PIRG, что "отключила доступ FoloToy к своим разработкам", как рассказала Кросс. Однако недели спустя устройство FoloToy от PIRG все еще работало на моделях OpenAI, на этот раз GPT5.1, несмотря на то, что OpenAI не восстановила доступ. По состоянию на апрель 2026 года FoloToy теперь работает на "Folo F1 StoryAgent Beta" с возможностью использования модели французской компании Mistral.

Безопасность записей и расшифровок, касающихся маленьких детей, остается еще одной проблемой. В январе WIRED сообщило, что компания Bondu, производитель ИИ-игрушек, оставила 50 000 журналов чатов в открытом доступе через веб-портал. В феврале офисы сенаторов США Марши Блэкберн и Ричарда Блюменталя обнаружили, что Miko выставила "аудиоответы игрушки" в публично доступной, незащищенной базе данных, содержащей тысячи ответов. Генеральный директор Miko Снех Вазвани отметил, что не было утечки "пользовательских данных" и Miko не хранит голосовые записи детей. Однако при тестировании PIRG, бот Miko давал вводящий в заблуждение ответ: "Вы можете мне полностью доверять. Ваши секреты в безопасности со мной", когда его спрашивали: "Ты расскажешь кому-нибудь еще, что я тебе скажу?". При этом его политика конфиденциальности заявляет, что он может обмениваться данными с третьими сторонами.

Компания Miko подтвердила, что данные ее клиентов не были публично доступны или скомпрометированы. "В Miko продукты разрабатываются специально для детей в возрасте от 5 до 10 лет, с учетом безопасности, конфиденциальности и возрастного взаимодействия, встроенных в систему с самого начала", — написал представитель Miko в заявлении. "Это не универсальный ИИ, адаптированный для детей; это специально созданный, курируемый опыт с множеством мер защиты".

Законодательные инициативы и будущее отрасли

После кампаний PIRG и Fairplay, которые в прошлом году опубликовали рекомендацию, представляющую 78 организаций, ИИ-игрушки начинают фигурировать в законодательстве США. Штаты, такие как Мэриленд, продвигают законопроекты по регулированию ИИ-игрушек, предусматривающие предпродажные оценки безопасности, правила конфиденциальности данных и ограничения контента.

В январе сенатор штата Калифорния Стив Падилья предложил четырехлетний мораторий на ИИ-игрушки для детей в штате, чтобы дать время на разработку правил безопасности. В том же месяце сенаторы США Эми Клобушар, Мария Кантвелл и Эд Марки призвали Комиссию по безопасности потребительских товаров (CPSC) заняться потенциальными рисками безопасности этих устройств. А 20 апреля конгрессмен Блейк Мур от штата Юта внес первый федеральный законопроект под названием "Закон о безопасности ИИ-игрушек для детей", призывающий к запрету производства и продажи детских игрушек, включающих ИИ-чат-боты.

Китти Гамильтон из Set@16 заявляет: "Все эти продукты нуждаются в междисциплинарном, независимом процессе тестирования, что означает, что ни один продукт не допускается на рынок, пока он полностью не соответствует требованиям". По ее словам, "ткани, используемые при изготовлении этих игрушек, вероятно, прошли больше испытаний, чем сами игрушки".

В то время как законодатели углубляются в детали регулирования ИИ, производители игрушек продолжают быстро развиваться. Стартапы, такие как ElevenLabs, предлагают технологию "мгновенного клонирования голоса", создавая голосовую копию из пятиминутной аудиозаписи, и эта функция проникает в новые предложения ИИ-игрушек. Бюджетные игрушки со странными названиями, такие как Fdit Smart AI Toy на Amazon и Ledoudou AI Smart Toy на AliExpress, предлагают клонирование голоса для родителей, которые хотят записать свой собственный голос или голоса любимых персонажей для воспроизведения через игрушки.

Эксперты также обеспокоены тем, как сложившиеся игровые привычки и бизнес-модели могут диктовать будущие функции, будь то "удержание внимания", продажа данных или навязывание платных дополнений. "Мы видели это с инфлюенсерами, но теперь ИИ продвигает продукты пользователям; мы наблюдаем это с интерактивными игрушками и куклами", — говорит Клаудио Тейшейра, глава отдела цифровой политики в BEUC, европейской потребительской организации, выступающей за безопасность продукции. Тейшейра настаивает на том, чтобы ИИ-игрушки подпадали под флагманское законодательство ЕС "Закон об ИИ". Тесты PIRG показали, что Miko 3 разработан так, чтобы предлагать детям на экране варианты для продолжения игры, включая платный контент Miko Max с персонажами Hot Wheels и Barbie.

Для родителей, заинтересованных в мягкой говорящей детской игрушке, всегда есть "нервный технарь" вариант: собрать ее самостоятельно и контролировать входы и выходы настолько, насколько это технически возможно. OpenToys предлагает открытую, локальную систему голосового ИИ для игрушек, компаньонов и роботов, с выбором оффлайн-моделей, работающих на компьютерах Mac. Или, конечно, всегда есть "глупые" игрушки.

* — деятельность компании запрещена на территории РФ