KPMG: матеріал, створений ШІ, був використаний для створення фейкових скандалів
Комітет Сенату попередив, що штучний інтелект може серйозно підірвати його цілісність після того, як консалтинговий гігант KPMG подав офіційну скаргу щодо фактично недостовірної інформації, яка отримала парламентські привілеї.
Група вчених вибачилася перед четвіркою великих консалтингових фірм після того, як вони подали запит, який містив неправдиві звинувачення в серйозних порушеннях, які були зібрані інструментом ШІ, а не перевірені факти.
Один науковець взяв на себе відповідальність за помилки, створені інструментом Google Bard AI, який створив приклади, яких ніколи не було, і навів їх як приклади того, чому потрібна структурна реформа.
У поданні фірми звинувачувалися в причетності до скандалів, яких або не було, або до яких вони не мали відношення. У ньому йдеться про звільнення партнерів фірмами, які ніколи їх не брали на роботу.
Фірми засудили неточну заявку, оскільки вважають, що їхня репутація була несправедливо заплямована. Виконавчий директор KPMG Ендрю Єйтс поскаржився парламентському спільному комітету з корпорацій і фінансових послуг, який схвалив і завантажив документ.
«Засоби до існування понад 10 000 людей, які працюють у KPMG, можуть постраждати, коли явно невірна інформація буде оприлюднена — захищена парламентськими привілеями — і повідомлена як факт», — написав Єйтс комітету.
«Ми глибоко стурбовані та розчаровані тим, що для подання такого важливого парламентського розслідування покладалися на AI без комплексної перевірки фактів.
У заяві містилося неправдиве звинувачення KPMG у причетності до «скандалу з крадіжкою зарплати KPMG 7-Eleven», який призвів до відставки кількох партнерів. Він також звинуватив KPMG в аудиті Commonwealth Bank під час скандалу з фінансовим плануванням. KPMG ніколи не проводила аудит Commonwealth Bank.
У своїй заяві комітет зазначив, що про інцидент було повідомлено клерку Сенату, і що він «порушив важливі питання» щодо використання штучного інтелекту.
«Інструменти, що з’являються в області штучного інтелекту, хоч і зменшують робоче навантаження, можуть становити серйозні ризики для цілісності та точності роботи, якщо їх не розуміти належним чином або застосовувати їх у поєднанні з детальним наглядом і суворою перевіркою фактів», — йдеться в заяві комітету.
Комітет заявив, що за неправильного використання такі інструменти, як Google Bard, можуть «серйозно підірвати цілісність поданих матеріалів і процес комітету».
«Зрештою, роль комітету в ході свого розслідування та права на відповідь, наданого тим, на кого посилаються в поданнях, полягає в тому, щоб належним чином зважити надані докази на основі їх правдивості та точності», — йдеться в заяві.
У листі до Сенату почесний професор Джеймс Гатрі взяв на себе відповідальність за помилку, вибачивши інших вчених.