дети
Искусственный интеллект давно успел превратиться из технологической диковинки в настолько повседневный инструмент, что его уже освоили школьники младших классов. Запрещать детям использовать ИИ в этой ситуации примерно так же перспективно, как когда-то запрещать пользоваться поисковиками или Википедией.
Сегодня разберемся, как на самом деле работают чат-боты и как научить ребенка пользоваться искусственным интеллектом так, чтобы тот помогал учиться, а не думал за него.
Объясните ребенку (и себе), как работает ИИ
Прежде чем объяснять ребенку что-то про искусственный интеллект, разберемся в том, как он вообще работает и какие у него есть ограничения.
Большинство популярных чат-ботов, с которыми в том числе общаются и дети, — это так называемые большие языковые модели (LLM). Чтобы создать такую модель, исследователи обучают ее выявлять закономерности в огромных массивах текста. Она разбивает текст на токены — небольшие фрагменты текста (последовательность слов, запятые, отдельные слова и символы или целые предложения), а затем предсказывает, какой токен с наибольшей вероятностью должен идти следующим.
Этот пример демонстрирует, как работает токенизация сообщений моделями GPT-3.5 и GPT-4. Источник
То же самое происходит во время общения с человеком. Языковая модель не умеет самостоятельно рассуждать — она просто рассчитывает, какие слова и фразы с наибольшей вероятностью должны следовать друг за другом, чтобы выдать подходящий ответ на ваш запрос. А это значит, что, даже несмотря на постоянные обновления и дообучения, чат-боты будут периодически выдавать пользователям неполную или ошибочную информацию. Просто для наглядного примера: всего два года назад популярные чат-боты уверяли пользователей в том, что в английском слове strawberry две, а не три буквы r. Такие ошибки в народе называются «галлюцинациями».
Во многих чат-ботах также есть функция поиска в Интернете: в этом случае ИИ будет брать данные из внешнего источника, но формулировать ответ он будет все еще с помощью собственных алгоритмов. Не говоря уже о том, что среди результатов поиска могут оказаться устаревшие публикации, рекламные материалы, таблоиды и СМИ с неоднозначной репутацией.
Как помочь школьнику пользоваться ИИ с умом
Расскажите ребенку про искажения ИИ
Мы уже выяснили, что искусственный интеллект не застрахован от ошибок. К сожалению, на «галлюцинациях» проблема не заканчивается: даже опираясь на достоверные данные, чат-бот может представить их не совсем корректно — что-то упустить, неверно расставить акценты или сделать спорный вывод. А иногда результат зависит от факторов, которые пользователь едва ли станет учитывать, задавая вопрос чат-боту.
Например, причиной искажений может быть… язык, на котором общается пользователь. Большинство данных, на которых обучаются крупные модели, — это англоязычный контент. Поэтому на английском нейросети, как правило, работают лучше. Одна и та же ИИ-модель может дать правильный ответ по-английски и ошибиться, если тот же вопрос задать, скажем, на сербском. Особенно заметна разница в профессиональных темах — науке, медицине, технологиях, праве, — где объем качественных исходных данных на английском существенно выше.
Другая неприятная особенность чат-ботов — снижение качества работы при больших объемах информации. Исследования показывают, что чем больше данных и текста, тем хуже языковые модели удерживают детали, сопоставляют информацию из разных частей текста и отвечают на вопросы, требующие серьезного погружения в контекст. Поэтому загружать в диалог с ИИ целую книгу и пытаться задавать по ней вопросы — прямой путь к получению ИИ-галлюцинаций.
Ставить под сомнение, кстати, полезно не только информацию, которую выдает ИИ, но и собственные вопросы. Дело в том, что чат-боты зачастую пытаются угодить пользователю и специально подстраиваются под его позицию. Например, на вопросы «Почему Земля перенаселена?» и «Почему на Земле нет перенаселения?» один и тот же чат-бот может дать противоположные ответы, в каждом случае отталкиваясь от уже заданной пользователем точки зрения. Недавнее исследование показало, что даже самые продвинутые языковые модели не оспаривали от 26 до 42% ложных предпосылок.
Пусть ИИ помогает учиться, а не учится вместо ребенка
Все бывшие школьники знают, что списывание — это отдельный вид искусства, которое требует виртуозности и минимального (а иногда даже глубокого) погружения в материал. Сегодня, увы, оно тоже под угрозой исчезновения: уж слишком высок соблазн списать ответ, сгенерированный за пару секунд. А между тем чат-боты далеко не всегда осваивают школьную программу на отлично.
В одном исследовании ученые заставили три популярных чат-бота пройти экзамен по химии и сравнили их результаты с оценками школьников за 2009–2023 годы — оказалось, что школьники справились с тестом лучше. Иногда модели также выдают правильные ответы, но приходят к ним через ложные рассуждения — соответственно, высок шанс и ложных выводов.
Так что стоит донести до ребенка, что постоянно генерировать сочинения или просить ИИ с нуля решать уравнения, даже не перепроверив ответы — дорога в никуда. К тому же на настоящей работе его будут оценивать по реальным навыкам и знаниям, и притворяться специалистом в своей сфере, используя чат-боты, уже не получится. А вот с чем чат-боты могут отлично справиться и при этом не помешать учебе, так это c объяснением сложных тем и разбором ошибок. Выглядеть это может примерно так:
Когда тема непонятна
- «Объясни эту тему простым языком: {указать тему}«
- «Объясни эту тему: {указать тему}, приведя пример из жизни»
- «Я не понимаю вот этот момент: {вставить фрагмент}. Объясни его пошагово»
- «Объясни эту тему вначале простым языком, а затем сложным: {указать тему}«
- «Есть вопрос: {вставить вопрос}. Не давай готового решения. Задавай мне наводящие вопросы, чтобы я разобрался сам»
Для математики и точных наук
- «Дай мне подсказку для первого шага решения задачи: {вставить задачу}. Не решай задачу целиком»
- «Посмотри мое решение: {вставить условие и решение}. Скажи, на каком этапе у меня появилась ошибка / найди первую ошибку, но не исправляй ее»
- «Придумай задачу, похожую на эту: {вставить задачу}«
- «Я получил ответ: {ответ}. Задай вопросы, чтобы я мог проверить, правильно ли я решил задачу»
- «Объясни, почему сюда нужно подставить эту формулу: {вставить задачу}«
Для сочинений и письменных работ
- «Задай мне пять вопросов по теме сочинения {указать тему}, чтобы я сам придумал тезисы и аргументы»
- «Вот черновик моего эссе. Попробуй найти в нем логические дыры и места, которые нужно развернуть подробнее: {вставить текст черновика}«
- «Проверь план моего эссе и скажи, чего в нем не хватает: {вставить план эссе}«
- «Найди в моем тексте места, где мысль выражена непонятно, но не предлагай готовую формулировку: {вставить текст}«
- «Представь, что ты взрослый учитель, и попробуй оспорить мою точку зрения: {привести точку зрения}«
Для изучения языков
- «Поговори со мной на {указать язык} на уровне A2. После моих ответов исправляй ошибки»
- «Дай мне пять предложений на перевод с этой грамматической конструкцией: {привести грамматическую конструкцию}«
- «Объясни мне это грамматическое правило {вставить правило} и приведи примеры»
- «Я напишу предложение, а ты укажи, есть ли в нем ошибка. Сначала дай подсказку, а правильный вариант покажи только после моей второй попытки. {Вставить предложение}«
- «Придумай короткий диалог, в котором мне нужно самому отвечать за одного из собеседников»
Для проверки знаний
- «Устрой мне тест из 20 вопросов по теме {указать тему}. Задавай по одному вопросу и не показывай ответ заранее»
- «После каждого моего ответа объясняй только то, в чем я ошибся»
- «Сначала задай мне пять простых вопросов, затем пять сложных по теме {указать тему}«
- «Задавай мне все более сложные вопросы по мере того, как я правильно отвечаю»
- «По моим ошибкам определи, какие темы мне стоит повторить»
Проверяйте ответы ИИ вместе с ребенком
Объясните ребенку, что слепо верить ответам и пересказам ИИ, даже если он ссылается на другие источники, нельзя. Просить языковую модель перепроверить саму себя тоже не лучшая идея: есть шанс, что она ошибется дважды.
Возьмите любой ответ чат-бота и попробуйте вместе разобрать его на отдельные утверждения и позадавать к ним вопросы. Откуда взялась эта дата или цифра? Ссылается ли ИИ на конкретного человека, СМИ или научную публикацию? Действительно ли цитата принадлежит указанному человеку? Если чат-бот привел ссылку, откройте ее и проверьте, насколько точно ее пересказал ИИ.
Заодно оцените качество самого источника. Если материал написан слишком эмоционально или делает громкие выводы без доказательств, это точно повод поискать информацию в другом месте.
Обезопасьте ребенка и его аккаунты
Все, чем ваш ребенок делится с чат-ботом, впоследствии оказывается на серверах его компании-разработчика и по умолчанию используется для дальнейшего обучения моделей. За последние несколько лет мы убедились в том, что даже самые крупные компании не застрахованы от багов и утечек. Чтобы снизить риск утечки данных и защитить аккаунт ребенка, придерживайтесь нескольких простых правил:
- Донесите до ребенка мысль, что ИИ — не его личный дневник. Запретите ему делиться с чат-ботом именем, домашним адресом, номером школы и любой другой конфиденциальной информацией.
- Настройте приватность в чат-боте: прежде всего стоит выключить функции памяти и «улучшения»/обучения модели. А заодно прочитайте наши подробные материалы о том, как настроить приватность и безопасность в ChatGPT и DeepSeek.
- Обновите пароль. Большинство чат-ботов требуют регистрации — чтобы аккаунт ребенка не взломали, настройте для него сложный пароль, который больше нигде не использовался. Если пароль вашего ребенка составлен по формуле «девичья фамилия матери + год рождения» или даже содержит слово… Skibidi, у нас для вас плохие новости: такие пароли взламываются очень быстро. Поэтому лучше не придумывать и не запоминать их вручную, а генерировать и хранить в зашифрованном менеджере паролей.
- Включите двухфакторную аутентификацию. Это дополнительное препятствие для злоумышленников, которые захотят зайти в аккаунт вашего ребенка. Лучше всего использовать в качестве второго фактора не номер телефона, а коды для входа, которые генерируются и автоматически обновляются в менеджере паролей.
- Используйте антифишинговую защиту. Помимо поддельных сайтов, которые маскируются под легитимные ИИ-сервисы, существует и другая угроза: периодически чат-боты выдают пользователям ссылки на фишинговые сайты. Kaspersky Premium предотвратит переход на подозрительный сайт и не позволит злоумышленникам украсть данные и деньги вашей семьи.
- Узнайте, чем ваш ребенок занимается в Сети. В подписку Kaspersky Premium, помимо менеджера паролей и защиты от вредоносов и фишинга, входит Kaspersky Safe Kids — с его помощью можно настроить родительский контроль, ограничить нежелательный контент и следить за тем, сколько времени ребенок проводит в Интернете.
Что еще прочитать о безопасности детей в Сети и в школе:
- Безопасность детей в Интернете: гайд для родителей
- Как помочь ребенку стать блогером и не переживать за его безопасность
- Как хакеры атакуют зумеров
- Выбираем первый гаджет: руководство для родителей
- Угрозы цифровой школы: гаджеты
- Угрозы цифровой школы: виртуальные классы и видеоконференции
- Угрозы цифровой школы: чаты и соцсети
Советы