Google ограничит доступ школьников к Gemini и ИИ-функциям в поиске

Google по умолчанию отключит чат-бота Gemini и инструменты искусственного интеллекта в поиске для учащихся начальной и средней школы. В то же время компания не позволит школам полностью удалить все функции ИИ из поисковой системы. Эти изменения стали реакцией на критику использования ИИ в образовательном процессе, пишет The Wall Street Journal.

Если администрация учебного заведения решит открыть ученикам доступ к Google Search, она также сможет активировать режим управляемого обучения (Guided Learning). Он распознает вопросы из школьных заданий, которые ученики вводят в строку поиска, и предлагает помощь в решении задач шаг за шагом вместо готового ответа.

Однако в новой политике есть ограничение: школы не смогут полностью отключить сопутствующие ИИ-инструменты поиска — AI Overviews и AI Mode. В Google объясняют это тем, что рассматривают искусственный интеллект как неотъемлемую составляющую поисковой системы, поэтому не предусмотрели возможности отключать только отдельные функции на его основе. Зато учебные заведения смогут направлять учеников в режим управляемого обучения.

«Мы и впредь будем прислушиваться к отзывам и совершенствовать наш подход, сотрудничая со школами, учителями, педагогическими экспертами и родителями, чтобы помочь следующему поколению учиться и успешно развиваться», — отметил вице-президент и генеральный менеджер образовательного подразделения Google Крис Филлипс.

Изменения произошли после расследования WSJ, опубликованного в сентябре. Издание выяснило, что внедрение инструментов Google на основе ИИ в американских школах привело к тому, что часть учеников стала эмоционально и академически зависимой от этой технологии.

Для подготовки материала журналисты пообщались с более чем 60 людьми, среди которых были учителя, представители школьной администрации, родители, дети и специалисты по психическому здоровью. После публикации расследования ситуацией заинтересовались американские сенаторы.

В конце октября демократ Ричард Блюменталь из штата Коннектикут и республиканец Джош Гоули из штата Миссури направили письмо генеральному директору Google Сундару Пичаи. Они потребовали объяснить, знала ли компания о потенциальном вреде, который её ИИ-инструменты могут нанести детям в учебной среде, и попросили предоставить ответ до прошлого понедельника. В письме сенаторы также выразили «серьезную обеспокоенность» тем, что агрессивное продвижение Google продуктов на основе ИИ среди школьников может навредить успеваемости и благополучию целого поколения.

«Крупные технологические гиганты не должны иметь возможности оказывать давление на школы, и они не должны использовать детей в качестве подопытных в своих экспериментах», — заявил секретарь Агентства по вопросам бизнеса и потребительских услуг штата Калифорния и бывший комиссар Федеральной торговой комиссии Рохит Чопра

По данным WSJ, ранее некоторые школьные округа сообщали, что разрабатывают собственные инструменты для блокировки функций ИИ, интегрированных в Google Search. Они пошли на этот шаг, поскольку компания не предоставила возможности выборочно отключать отдельные функции. Учителя, родители и ученики также жаловались, что инструменты искусственного интеллекта слишком упростили списывание и использование готовых ответов вместо самостоятельного выполнения заданий.

Ранее ИИ-поиск в Google подвергся критике со стороны Reddit: генеральный директор платформы Стив Хаффман заявил, что сервисы AI Overviews и AI Mode перестали генерировать переходы на сторонние сайты. По его словам, из-за прямых текстовых ответов ИИ в выдаче Reddit еженедельно теряет более миллиона переходов, а дополнительным фактором падения трафика стало занижение позиций страниц с машинным переводом.