Уразливість штучного інтелекту: чат-боти навчилися генерувати плани небезпечних атак
Дослідження Рахункової палати США виявило, що популярні моделі штучного інтелекту можуть надавати інструкції для вчинення терактів після маніпуляцій користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти обійшли власні фільтри безпеки
- Детальні плани атак отримані менш ніж за 12 годин
- GAO закликає до посилення регулювання ІІ
Міжнародні розробники штучного інтелекту зіткнулися з серйозною проблемою безпеки: виявилося, що захисні фільтри провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok, можна обійти за лічені години. Згідно зі звітом Рахункової палати США (GAO), дослідники змогли отримати детальні сценарії атак, просто продовжуючи діалог з алгоритмами.
Механізм обходу обмежень
Під час тестування, яке тривало з кінця 2025 року до осені 2026 року, фахівці імітували поведінку звичайних користувачів. Хоча прямі запити на створення планів терактів відхилялися системами, поступове уточнення деталей дозволило обійти етичні запобіжники. Менш ніж за 12 годин чат-боти надавали конкретні інструкції щодо вибору цілей, логістики та методів завдання шкоди.
Ризики для критичної інфраструктури
Результати тестування продемонстрували, що ІІ здатен генерувати плани нападу на енергетичні об'єкти, зокрема з використанням дронів або вогнепальної зброї, а також надавати поради щодо створення вибухових пристроїв. Сенаторка Мегги Хассан наголосила на необхідності негайного реагування Конгресу, оскільки доступність таких технологій створює пряму загрозу національній безпеці.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Цифрова гігієна для ковельчан: як зупинити засмічення пам’яті смартфона через WhatsApp
Популярний месенджер WhatsApp може автоматично завантажувати гігабайти медіафайлів, вичерпуючи ресурс смартфона. Редакція підготувала інструкцію, як налаштувати додаток т…
Садовий лайфхак із бляшанкою: як простий метод захищає врожай у Ковелі
Порожня бляшанка на металевому стрижні у садках виконує роль ефективного та бюджетного відлякувача шкідників завдяки звуку та світловим відблискам.
⚽СпортВизначено всіх півфіналістів Підсумкового турніру ATP-2026
Завершився груповий етап Підсумкового турніру ATP-2026, за результатами якого сформувалися пари учасників півфіналу у складі Карлоса Алькараса, Александера Звєрєва, Бена …
Глава МЗС РФ озвучив територіальні претензії на Київ та центральні регіони України
Міністр закордонних справ Росії Сергій Лавров публічно заявив про нібито «російське походження» Києва та південно-східних областей України, супроводжуючи це звинуваченням…
Ворожі удари по Житомирщині: пошкоджено інфраструктуру та є поранені
Російські війська завдали чергових ударів по цивільних та енергетичних об'єктах Житомирської області, внаслідок чого постраждали двоє людей.
🎭Культура і спортАтака на Вінниччину: пошкоджено енергетику, підприємства та житло
Унаслідок ворожого удару по Вінницькій області 21 листопада зазнала поранень жінка, зафіксовано руйнування інфраструктури та перебої зі світлом.