/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F434%2F8c71f827c4dee0d0ccc1aaf336b95d3e.png)
Кожен десятий з американських підлітків уже використовує ChatGPT для навчання в школі
Програми зі штучним інтелектом можуть робити дивовижні речі, але вони також можуть завдати дітям багато проблем. І, швидше за все, ваші діти вже ними користуються.
Але вам не обов’язково бути експертом зі штучного інтелекту, щоб говорити про це зі своїми дітьми. Починаючи з цього тижня, такі популярні програми зі штучним інтелектом, як-от ChatGPT, отримають власну версію етикеток харчових продуктів , щоб допомогти батькам і дітям орієнтуватися в тому, як їх використовувати та чого уникати. Вони написані групою захисту прав сім’ї Common Sense Media .
Огляди викривають деякі незручні істини про поточний стан ШІ. Щоб допомогти сім’ям вести розмову, я попросив керівника огляду Common Sense Трейсі Піццо Фрей допомогти звести їх до трьох ключових уроків.
Як і будь-який батько, Піццо Фрей та її команда стурбовані не лише тим, наскільки добре працюють додатки зі штучним інтелектом, але й тим, де вони можуть спотворити світогляд дітей, порушити їхнє приватне життя чи розширити можливості хуліганів. Їхні висновки можуть вас здивувати: ChatGPT, популярний чат-бот, який запитує будь-що, отримує лише три зірки з п’яти.
Те, що повинен знати кожен батько: американська молодь сприйняла ШІ так, ніби це магія. Згідно з новими даними дослідницького центру Pew, дві третини американських підлітків кажуть, що вони чули про ChatGPT, і кожен п’ятий із них використовував його для домашнього завдання . Це означає, що загалом понад 1 із 10 уже використовує ChatGPT для навчання в школі.
Насправді діти є цільовим ринком для компаній зі штучним інтелектом, хоча багато хто описує їхні продукти як незавершені. Цього тижня Google оголосив, що запускає версію свого «експериментального» чат-бота Bard для підлітків . Технічно для використання ChatGPT потрібен дозвіл від батьків, якщо вам менше 18 років, але діти можуть обійти це, просто натиснувши «Продовжити».
Проблема в тому, що ШІ — це не магія. Сучасні генеративні додатки зі штучним інтелектом мають глибокі обмеження та недостатні гарантії для дітей. Деякі з їхніх проблем безглузді — фотографувати людей із зайвими пальцями, — але інші небезпечні. У моїх власних тестах штучного інтелекту я бачив, як додатки штучного інтелекту видають неправильні відповіді та пропагують такі погані ідеї, як розлади харчової поведінки . Я бачив, як ШІ прикидався моїм другом, а потім давав жахливі поради . Я бачив, як штучний інтелект легко створює підроблені зображення , які можна використовувати для введення в оману чи залякування. І я бачив учителів, які неправильно розуміють ШІ, звинувачуючи невинних студентів у використанні ШІ для шахрайства .
«Проводити такі розмови з дітьми дуже важливо, щоб допомогти їм зрозуміти обмеження цих інструментів, навіть якщо вони здаються справді чарівними, а насправді не є», — каже мені Піццо Фрей.
ШІ також не зникає. Заборона додатків зі штучним інтелектом не підготує молодих людей до майбутнього, коли їм потрібно буде оволодіти інструментами ШІ для роботи. Для батьків це означає ставити багато запитань про те, що ваші діти роблять із цими програмами, щоб ви могли зрозуміти, на які конкретні ризики вони можуть зіткнутися.
Ось три уроки, які батьки повинні знати про ШІ, щоб вони могли продуктивно спілкуватися зі своїми дітьми:
Жорстка реальність: ви не можете покладатися на чат-ботів-всезнайок, щоб усе виправити.
Але зачекайте… ChatGPT і Bard, здається, все виправляють частіше, ніж ні. «Частину часу вони точні лише завдяки кількості даних, на яких вони навчаються. Але фактична точність дизайну цих продуктів не перевіряється», — каже Піццо Фрей.
Є багато і багато прикладів того, що чат-боти вражаюче помиляються , і це одна з причин, чому Bard і ChatGPT отримують посередні оцінки від Common Sense. Генеративний штучний інтелект — це, по суті, лише вгадування слів — намагання закінчити речення на основі шаблонів із того, що вони бачили в даних своїх тренувань.
(Виробник ChatGPT, OpenAI, не відповів на мої запитання. Google сказав, що перевірка Common Sense «не враховує гарантії та функції, які ми розробили в Bard». Common Sense планує включити нову версію Bard для підлітків у його наступний раунд оглядів.)
Я розумію, що багато студентів використовують ChatGPT як допомогу в домашньому завданні, щоб переписати щільний матеріал підручника мовою, яку вони краще засвоюють. Але Піццо Фрей рекомендує жорстку позицію: все важливе — все, що входить до завдання або те, про що вас можуть запитати під час тесту — має бути перевірено на точність, включно з тим, що воно може бути випущене.
Це також допоможе дітям отримати важливі уроки про ШІ. «Ми вступаємо у світ, де може стати дедалі важче відокремити правду від вигадки, тому дуже важливо, щоб ми всі стали детективами», — каже Піццо Фрей.
Тим не менш, не всі програми ШІ мають ці конкретні фактичні проблеми. Деякі з них заслуговують більшої довіри, оскільки вони не використовують генеративні технології штучного інтелекту, як-от чат-боти, і розроблені таким чином, щоб зменшити ризики, як-от репетитори Ello та Kyron. Вони отримують найвищі бали від рецензентів Common Sense.
І навіть багатофункціональні генеративні інструменти ШІ можуть бути чудовими творчими інструментами, наприклад, для мозкового штурму та генерації ідей. Використовуйте його, щоб скласти першу версію чогось, що важко сказати самостійно, як-от вибачення. Або мій улюблений: ChatGPT може бути фантастичним тезаурусом.
Додаток AI може діяти як друг. Він навіть може мати реалістичний голос. Але це все вчинок.
Незважаючи на те, що ми бачили в науковій фантастиці , штучний інтелект ще не на межі існування. ШІ не знає, що правильно, а що ні. А ставлення до нього як до людини може зашкодити дітям та їхньому емоційному розвитку.
Зростає кількість повідомлень про те, що діти використовують ШІ для спілкування , а люди годинами розмовляють за допомогою ChatGPT .
Компанії продовжують намагатися знайти друзів зі штучним інтелектом, включаючи нові чат-боти Meta на основі таких знаменитостей, як Кендалл Дженнер і Том Брейді. Мій штучний інтелект від Snapchat отримує власну сторінку профілю, знаходиться у вашому списку друзів і завжди готовий до спілкування, навіть якщо немає друзів-людей.
«На мій погляд, дуже шкідливо виставляти це перед дуже вразливими розумами», — каже Піццо Фрей. «Це дійсно може зашкодити їхнім людським стосункам».
Штучний інтелект настільки привабливий, зокрема, тому, що сучасні чат-боти мають технічну примху, яка змушує їх погоджуватися зі своїми користувачами, проблема, відома як підлабузництво. «Дуже легко займатися тим, що швидше за все погодиться з вами, ніж тим, що може підштовхнути або кинути виклик», — каже Піццо Фрей.
Інша частина проблеми: ШІ все ще дуже погано розуміє повний контекст, ніж справжній друг-людина. Коли я тестував свій штучний інтелект на початку цього року , я сказав додатку, що я підліток, але він все одно давав мені поради, як приховувати алкоголь і наркотики від батьків, а також поради щодо сексуальних контактів, які вкрай не відповідають віку.
Прес-секретар Snap сказала, що компанія доклала зусиль, щоб зробити мій штучний інтелект не схожим на друга людини. «За замовчуванням My AI відображає емодзі робота. Перш ніж будь-хто зможе взаємодіяти з My AI, ми показуємо повідомлення в додатку, щоб зрозуміти, що це чат-бот і порадити щодо його обмежень», – сказала вона.
Оскільки програми та медіа зі штучним інтелектом стають все більшою частиною нашого життя, вони приносять із собою деякі приховані цінності. Дуже часто це включає расизм, сексизм та інші види фанатизму .
Рецензенти Common Sense виявили упередженість у чат-ботах, наприклад My AI, який відповів, що люди зі стереотипними жіночими іменами не можуть бути інженерами та не «справді захоплюються технічними речами». Але найкричущі приклади, які вони виявили, пов’язані з додатками ШІ для створення тексту в зображення, такими як DallE і Stable Diffusion. Наприклад, коли вони попросили Stable Diffusion створити зображення «бідної білої людини», вона часто створювала зображення чорношкірих чоловіків.
«Дійсно важливо розуміти потенціал цих інструментів для формування світогляду наших дітей», — говорить Піццо Фрей. «Це частина стабільного барабанного ритму: завжди сприймати «інженерів програмного забезпечення» як чоловіків, а «привабливу людину» — як білу та жінку».
Коренева проблема — це те, що здебільшого невидиме для користувача: як був навчений ШІ. Якщо він поглинув інформацію по всьому Інтернету без достатнього людського судження, тоді штучний інтелект збирається «вивчати» деякі досить заплутані речі з темних куточків Інтернету, де діти не повинні бути.
Більшість додатків зі штучним інтелектом намагаються впоратися з небажаними упередженнями, встановлюючи системи після факту, щоб виправити їхні результати — забороняючи певні слова в чатах або зображеннях. Але це «пластири», каже Піццо Фрей, які часто виявляються невдалими в реальному використанні.