Огляди викривають деякі незручні істини про поточний стан ШІ. Щоб допомогти сім’ям вести розмову, я попросив керівника огляду Common Sense Трейсі Піццо Фрей допомогти звести їх до трьох ключових уроків.
Кожен десятий з американських підлітків уже використовує ChatGPT для навчання в школі
Дмитро Сизов
Програми зі штучним інтелектом можуть робити дивовижні речі, але вони також можуть завдати дітям багато проблем. І, швидше за все, ваші діти вже ними користуються.
Але вам не обов’язково бути експертом зі штучного інтелекту, щоб говорити про це зі своїми дітьми. Починаючи з цього тижня, такі популярні програми зі штучним інтелектом, як-от ChatGPT, отримають власну версію етикеток харчових продуктів , щоб допомогти батькам і дітям орієнтуватися в тому, як їх використовувати та чого уникати. Вони написані групою захисту прав сім’ї Common Sense Media .
Як і будь-який батько, Піццо Фрей та її команда стурбовані не лише тим, наскільки добре працюють додатки зі штучним інтелектом, але й тим, де вони можуть спотворити світогляд дітей, порушити їхнє приватне життя чи розширити можливості хуліганів. Їхні висновки можуть вас здивувати: ChatGPT, популярний чат-бот, який запитує будь-що, отримує лише три зірки з п’яти.
Те, що повинен знати кожен батько: американська молодь сприйняла ШІ так, ніби це магія. Згідно з новими даними дослідницького центру Pew, дві третини американських підлітків кажуть, що вони чули про ChatGPT, і кожен п’ятий із них використовував його для домашнього завдання . Це означає, що загалом понад 1 із 10 уже використовує ChatGPT для навчання в школі.
Насправді діти є цільовим ринком для компаній зі штучним інтелектом, хоча багато хто описує їхні продукти як незавершені. Цього тижня Google оголосив, що запускає версію свого «експериментального» чат-бота Bard для підлітків . Технічно для використання ChatGPT потрібен дозвіл від батьків, якщо вам менше 18 років, але діти можуть обійти це, просто натиснувши «Продовжити».
Проблема в тому, що ШІ — це не магія. Сучасні генеративні додатки зі штучним інтелектом мають глибокі обмеження та недостатні гарантії для дітей. Деякі з їхніх проблем безглузді — фотографувати людей із зайвими пальцями, — але інші небезпечні. У моїх власних тестах штучного інтелекту я бачив, як додатки штучного інтелекту видають неправильні відповіді та пропагують такі погані ідеї, як розлади харчової поведінки . Я бачив, як ШІ прикидався моїм другом, а потім давав жахливі поради . Я бачив, як штучний інтелект легко створює підроблені зображення , які можна використовувати для введення в оману чи залякування. І я бачив учителів, які неправильно розуміють ШІ, звинувачуючи невинних студентів у використанні ШІ для шахрайства .
«Проводити такі розмови з дітьми дуже важливо, щоб допомогти їм зрозуміти обмеження цих інструментів, навіть якщо вони здаються справді чарівними, а насправді не є», — каже мені Піццо Фрей.
ШІ також не зникає. Заборона додатків зі штучним інтелектом не підготує молодих людей до майбутнього, коли їм потрібно буде оволодіти інструментами ШІ для роботи. Для батьків це означає ставити багато запитань про те, що ваші діти роблять із цими програмами, щоб ви могли зрозуміти, на які конкретні ризики вони можуть зіткнутися.
Ось три уроки, які батьки повинні знати про ШІ, щоб вони могли продуктивно спілкуватися зі своїми дітьми:
1. ШІ найкраще підходить для вигадки, а не фактів
Жорстка реальність: ви не можете покладатися на чат-ботів-всезнайок, щоб усе виправити.
Але зачекайте… ChatGPT і Bard, здається, все виправляють частіше, ніж ні. «Частину часу вони точні лише завдяки кількості даних, на яких вони навчаються. Але фактична точність дизайну цих продуктів не перевіряється», — каже Піццо Фрей.
Є багато і багато прикладів того, що чат-боти вражаюче помиляються , і це одна з причин, чому Bard і ChatGPT отримують посередні оцінки від Common Sense. Генеративний штучний інтелект — це, по суті, лише вгадування слів — намагання закінчити речення на основі шаблонів із того, що вони бачили в даних своїх тренувань.
(Виробник ChatGPT, OpenAI, не відповів на мої запитання. Google сказав, що перевірка Common Sense «не враховує гарантії та функції, які ми розробили в Bard». Common Sense планує включити нову версію Bard для підлітків у його наступний раунд оглядів.)
Я розумію, що багато студентів використовують ChatGPT як допомогу в домашньому завданні, щоб переписати щільний матеріал підручника мовою, яку вони краще засвоюють. Але Піццо Фрей рекомендує жорстку позицію: все важливе — все, що входить до завдання або те, про що вас можуть запитати під час тесту — має бути перевірено на точність, включно з тим, що воно може бути випущене.
