Бояться зловживань від ШІ: Anthropic та Google блокують спроби створення біозброї за допомогою Claude та Gemini
Американська компанія-розробник Anthropic опублікувала звіт про загрози, у якому повідомила про припинення спроб використати її моделі ШІ (зокрема Claude) для зловмисної діяльності.
Виявлені загрози та масштаб зловживань з боку ШІ
Серед виявлених порушень були спроби застосувати ШІ для розробки біологічної зброї, що компанія назвала одним із найсерйозніших ризиків із потенційно катастрофічними наслідками, пише BBC.
Важливо! У період із грудня 2025 року до серпня 2026 року фахівці Anthropic зафіксували численні випадки нецільового використання моделей Claude Haiku, Sonnet та Opus.
Аналогічні проблеми підтвердили й інші технологічні гіганти – зокрема, Google повідомила про спроби згенерувати покроковий посібник зі створення біоагентів через Gemini.
Основні напрямки зловмисного використання ШІ:
- Розробка зброї: Спроби створення біологічних агентів, а також софту для вогнепальної зброї, дронів та систем наведення.
- Кібершпигунство: Використання моделей хакерськими угрупованнями, пов'язаними з Росією, Китаєм (ShinyHunters) та Іраном.
- Шахрайство та стеження: Створення фейкових застосунків для знайомств, фішингових схем та систем виявлення дисидентів.
Політична реакція та заклики до обмежень ШІ
Оприлюднення звіту викликало нову хвилю дискусій щодо необхідності державного регулювання технології. Головний науковець OpenAI Якуб Пачоцький закликав до «добровільного уповільнення» розробок, а сенатор США Берні Сандерс вніс законопроєкт про тимчасове призупинення створення передових систем ШІ.
Водночас Дональд Трамп висловив сумніви щодо доцільності паузи в розробках, наголосивши на важливості збереження лідерства США у сфері штучного інтелекту.
Усі виявлені факти Anthropic передала правоохоронним органам та партнерам по галузі для посилення заходів безпеки.
Источник: nthropic