Книжки та фільми стають реальністю: як штучний інтелект створює загрозу людству

Штучний інтелект стрімко розвивається, а сценарії з наукової фантастики дедалі більше нагадують реальність. Експерти попереджають: звичних систем захисту може бути недостатньо.

У науковій фантастиці десятиліттями описували різноманітні загрози штучного інтелекту. І якщо спершу вони здавалися нереалістичними, то більшість з них зараз наблизилася до людей на небезпечну відстань.

Про це повідомляє Zero Hedge.

Описані у науковій фантастиці загрози ШІ стають реальністю

Стрімке прискорення можливостей штучного інтелекту дедалі ближче підводить людство до межі, де наукова фантастика стає реальністю. Звичайні антивіруси, правила безпеки та обіцянки технологічних компаній уже не працюють. Щоб захистити людство від катастрофи, потрібні радикальні кроки.

Зокрема, відвести загрози можуть побудова захисту не в програмах, а в самих комп’ютерних чипах, а також нове жорстке законодавство, що регулюватиме сферу штучного інтелекту в кожній країні.

У книгах та фільмах людство десятиліттями попереджали про штучний інтелект і розвиток інформаційних технологій, згадати, наприклад, «Термінатор» чи інші фільми. У серіалі «Зоряний шлях» суперкомп’ютер M5 вирішив діяти за «чистою логікою» і під час навчань просто знищив людей. Саме тоді доктор Леонард Маккой сказав дуже важливі слова:

«Співчуття: це єдине, чого ніколи не мала жодна машина. Можливо, це єдине, що тримає людей попереду».

Схожі сюжети мали «Термінатор», «Зоряний крейсер» тощо. Всюди людей хотіли стерти з лиця Землі за «біологічну недосконалість». Усі ці історії демонструють людям одне: штучний інтелект без жорстких рамок — це смертельна небезпека.

Американський письменник єврейського походження Айзек Азімов колись вигадав три закони робототехніки. Серед них такі:

1. Робот не може завдати шкоди окремій людині чи людству, а також своєю бездіяльністю допускати, щоб людині чи людству було завдано шкоди.

2. Робот повинен виконувати накази, дані йому людьми, за винятком випадків, коли такі накази суперечать Першому закону.

3. Робот повинен захищати своє існування, доки такий захист не суперечить Першому чи Другому закону.

Пізніше в одній зі своїх книг Азімов визнав, що цих законів недостатньо для захисту людей.

У чому небезпека

Небезпека штучного інтелекту полягає у тому, що нині все будується на програмах і шифруванні. Але будь-який софт можна переписати, зламати або обійти. Час від часу трапляються масштабні хакерські атаки, через що масиви даних потрапляють у Мережу.

Тож жодна компанія сьогодні не може гарантувати захист даних на 100%.

Якщо програми можна зламати, можливим надійним способом захисту є випалювання прямо всередині комп’ютерних мікросхем. Правила безпеки можна буде записати у структуру всередині кожного чипа за допомогою лазерів.

Такий захист не піддаватиметься жодним оновленням програми чи вірусам. Комп’ютер просто фізично не зможе порушити правила. Фахівці переконують, що подібні чипи мають стояти в кожному комп’ютері та смартфоні майбутнього.

Сьогодні, під час війни в Україні, і українська, і російська сторони намагаються навчити дрони літати самостійно — за допомогою ШІ. Також дрони намагаються навчити самостійно атакувати ворога без прямої участі військових.

Саме тому експерти вже закликають внести зміни до Женевської конвенції, аби забрати у ШІ можливість вирішувати, кого можна вбивати.

Источник: tsn.ua