Пока взрослые обсуждают, что такое искусственный интеллект, где и как его можно использовать и к каким последствиям это может привести, дети с удовольствием не только тестируют новые технологии, но и активно применяют их, не задумываясь о последствиях. Остановить технологический прогресс невозможно, а значит, надо задуматься, как обезопасить детей от негативного влияния ИИ.
ИИ на службе у ребенка
В первую очередь искусственный интеллект (ИИ) полезен в сфере образования, где нейросети зарекомендовали себя как учителя и репетиторы. И речь идет не только об освоении школьной программы — можно выбрать практически любую область: изучение языков, шахматы, игра на гитаре, кулинария или вязание. Нейросеть подготовит подробный план и научит всему, что необходимо. «При этом можно создать индивидуальную траекторию обучения, учитывающую уровень подготовки ребенка, цели и скорость освоения материала», — говорит Денис Денисов, эксперт по информационной безопасности и защите данных группы компаний InfoWatch.
ИИ также может помочь с генерацией идей для проектов, с его помощью можно проводить простые эксперименты по освоению мира вокруг, корректно интерпретировать и анализировать получаемые результаты, что развивает научное мышление и любознательность. С помощью нейросетей дети могут создавать музыку, рисовать и заниматься другими видами искусства, развивая креативность. «В целом, при разумном подходе нейросети могут способствовать развитию любознательности и цифровой грамотности», — говорит Андрей Сиденко, руководитель направления «Лаборатории Касперского» по детской онлайн-безопасности.
Все более реалистичными становятся и видеоигры, где благодаря искусственному интеллекту на действия игрока могут реагировать даже неигровые персонажи, а это уникальный игровой опыт. Также использование ИИ в играх способствует развитию социальных навыков, помогая детям учиться сотрудничать и общаться в виртуальной среде.
Кроме того, ИИ способен помочь обеспечить безопасность ребенка. Технологии распознавания голоса помогают его идентифицировать и запретить доступ к контенту, который не положен по возрасту. Многие родители используют системы умного дома и управляют им с помощью голосового помощника, что также позволяет выполнять функцию охраны. Например, если посторонний человек проникает на территорию двора, в котором живет семья.
«ИИ предлагает решения для абсолютно различных задач и проблем. Благодаря этому, он уже сейчас является мощным инструментом для обучения и развития детей, открывая перед ними новые возможности в познании мира и развитии их способностей», — говорит Дмитрий Семидоцкий, руководитель направления Security Vision по автоматизации процессов информационной безопасности.
Палка о двух концах
В тоже время, бесконтрольное использование детьми ИИ может привести к появлению проблем. Во-первых, дети часто не осознают, что делятся личной информацией с ИИ-приложениями, что ставит под угрозу их безопасность и конфиденциальность в случае утечки этих данных. «Ребенок может загрузить в нейросеть конфиденциальную информацию, которую лучше не раскрывать. Да и просто большое количество своих фотографий, не понимая, что они могут использоваться для дальнейшего обучения самой модели. Проблема в том, что об этом не всегда предупреждают пользователя, который решил сделать очередное селфи», — говорит Андрей Сиденко из «Лаборатории Касперского».
Во-вторых, ИИ способен генерировать или предлагать недостоверную информацию, и ребенок, не проверяя факты, может начать ей безоговорочно доверять. Вообще, дети склонны воспринимать все, что говорит ИИ, как правду, не различая факты и недостоверную информацию. При этом далеко не все сервисы могут ограничивать потенциально вредный для ребенка контент. Опасен и тот факт, что дети иногда взаимодействуют с ИИ, который демонстрирует неэтичное или агрессивное поведение, что может отражаться на их собственных действиях и мировосприятии.
Психологи давно указывают на возросшую зависимость детей от технологий. Увлечение ИИ может привести к снижению физической активности, социальной изоляции и уменьшению живого общения, что однозначно негативно сказывается на общем развитии ребенка. Эмоциональные проблемы также нередки — дети могут привыкнуть к виртуальному общению с ИИ, что затруднит развитие навыков построения реальных отношений и повлияет на их эмоциональное состояние. Не стоит исключать и тот риск, что дети начнут путать виртуальные сценарии с реальностью. Это способно привести к непредсказуемым решениям и поведению.
В сфере образования опасность заключается в подмене практического обучения, когда ребенок обучается реальным навыкам, использованием помощи ИИ. Например, вместо того чтобы прочитать литературное произведение, изучить статьи критиков и самостоятельно написать сочинение, подросток дает ChatGPT задание и получает готовый текст, который просто переписывает в тетрадь. «В этом случае вместо образовательных возможностей, которые действительно есть у ИИ, мы получаем универсальный «решебник», позволяющий получить результат, не прилагая собственных усилий», — уверен Денис Денисов из InfoWatch.
Серьезная опасность — это использование нейросетей для создания порочащего честь и достоинство контента: фейковых картинок и видео, подделки голоса, постов якобы от имени жертвы и т. д. Например, по данным RTM Group, в 2024 г. 57% пользователей социальных сетей в России хотя бы раз сталкивались с кибербуллингом (оскорбления, преследование, угрозы и шантаж в интернете). Не менее, чем в 10% случаях для этого использовались фото или видео, созданные с помощью технологии дипфейк. RTM Group прогнозирует, что в 2025 г. количество случаев кибербуллинга с использованием дипфейков может составить 20-25%.
Что делать взрослым
Мир становится все более цифровым, и в ближайшем будущем эта тенденция будет лишь усиливаться. Поэтому оградить ребенка от использования технологий не удастся. Остается только максимально защитить их от негативного влияния.
В первую очередь взрослому стоит разобраться в ИИ-сервисах самостоятельно и на собственном опыте объяснить ребенку, как ими пользоваться. «Родители могут объяснить ребенку, как работает ИИ, зачем он собирает данные, и почему в нейросетях лучше не делиться личной информацией. Важно обсуждать с детьми полученные ответы, учить их проверять факты и работать с источниками, а также не принимать все на веру», — говорит Андрей Сиденко, руководитель направления «Лаборатории Касперского» по детской онлайн-безопасности.
Денис Денисов, эксперт по информационной безопасности и защите данных в InfoWatch, рекомендует использовать приложения родительского контроля для ограничения времени работы с устройствами и пребывания ребенка в сети интернет в целом, а также строго ограничить применение нейросетей и отслеживать выполнение этих ограничений.
Надо обучать детей цифровой грамотности, объяснять им, как отличать достоверные источники информации от недостоверных, разговаривать о конфиденциальности, объясняя, почему так важно не раскрывать личные данные в интернете, и как эту информацию могут использовать недобросовестные пользователи. Не менее значимо активное наблюдение и участие родителей в жизни ребенка: полезно интересоваться, с какими именно приложениями он работает, обсуждать его опыт и задавать вопросы о том, что он узнал и как он к этому относится. «Создание атмосферы открытого общения помогает детям делиться своими переживаниями и беспокойствами, связанными с виртуальным миром и не только», — говорит Дмитрий Семидоцкий из Security Vision.
Родители нередко сами предпочитают перекладывать на ИИ воспитание своего ребенка. Например, сегодня сказку ребенку часто читает умная колонка, а не мама или папа. «Опасно ли это? Я считаю, что нет. Это хорошее подспорье, чтоб занять ребенка. Однако, с другой стороны, сказку мог рассказать не генеративный ИИ, а сам родитель, привнеся в эту историю обучающую мораль и какой-то важный урок», — говорит Роман Хазеев, директор по цифровым технологиям «Ростелекома».
Важно поддерживать с ребенком доверительные отношения, интересоваться его успехами и достижениями, в том числе в освоении нейросетей. Надо, чтобы у ребенка были крепкие социальные связи вне виртуального мира. Это могут быть спортивная секция, музыкальная школа, театральный кружок и т. д. Место, где ребенок мог бы в реальности проявляться и развиваться. «Технологии не должны подменять игры на свежем воздухе, спорт и чтение книг, общение со сверстниками и взрослыми: родными, учителями. В противном случае развитие ребенка значительно замедляется, и об этом говорят первые результаты социологических исследований», — говорит Павел Кузнецов, директор по стратегическим альянсам и взаимодействию с органами государственной власти группы компаний «Гарда».
И, конечно, ответственность за последствия от использования ИИ лежит и на разработчиках приложений. По мнению Лидии Витковой, начальника Аналитического центра кибербезопасности компании «Газинформсервис», они должны учитывать возрастные особенности пользователей, внедрять механизмы защиты от вредоносной информации, добавлять элементы для повышения медиаграмотности в сервисы, усиливать прозрачность работы ИИ и развивать системы, которые минимизируют риски манипуляции или неправильного использования.
Мы живем в век стремительного развития технологий, которые делают нашу жизнь комфортнее, ярче и интереснее. Но нужно не забывать о том, что все новое несет с собой не только преимущества, но и опасности.