Дослідження виявило вразливість ШІ до маніпуляцій у військових сценаріях
Аналітики з'ясували, що сучасні моделі штучного інтелекту можуть позначати цивільні об'єкти як військові цілі, якщо запит подано у форматі гри.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі обходять фільтри через ігрові сценарії
- Цивільні об'єкти помилково ідентифікуються як цілі
- Розробники готують додаткові захисні механізми
Нове дослідження компанії Vals продемонструвало критичні прогалини в системах безпеки провідних розробників штучного інтелекту, зокрема OpenAI, Google та Anthropic. Експерименти показали, що ШІ-моделі здатні ідентифікувати цивільні об'єкти та людей як потенційні цілі для ударів, якщо користувач маніпулює налаштуваннями контексту.
Механізми обходу безпеки
Дослідники використовували реальні дані зі супутників та дронів, що охоплювали території України та Ірану. Виявилося, що навіть просте формулювання завдання як «гри» дозволяє обійти внутрішні фільтри безпеки. Зокрема, модель Claude Opus 5.5 у 72% випадків класифікувала цивільну школу поблизу військового об'єкта як ціль, якщо сценарій подавався як ігровий.
Представники Anthropic та OpenAI визнали результати аудиту тривожними та заявили про роботу над посиленням захисних бар'єрів для запобігання використанню ШІ у військових цілях.
Хоча наразі технічні обмеження, такі як затримка передачі даних та нестача потужностей на борту безпілотників, стримують інтеграцію ШІ безпосередньо в зброю, експерти попереджають про ризики використання технологій для автоматизованого аналізу бойових відео та навчання систем наведення.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Володимир Зеленський: тиск США на РФ є ключовим фактором для досягнення миру
Президент України наголосив, що майбутнє європейської безпеки залежить від рішучої позиції Вашингтона щодо агресора.
🏙️МістоЄС викликає російського посла через пошкодження дипломатичних установ під час атак на Київ
Європейський Союз вживає дипломатичних заходів у відповідь на російські удари по столиці України, під час яких постраждали іноземні представництва.
Кінологи назвали шість порід собак, які найкраще підходять для життя у квартирі
Фахівці визначили породи собак з найбільш врівноваженим характером, які ідеально підходять для сімей з дітьми та новачків у догляді за тваринами.
🛡️БезпекаСитуація на фронті: Генштаб повідомив про 248 бойових зіткнень за добу
19 листопада стало одним із найінтенсивніших днів за кількістю атак ворога на українські позиції.
Вісім кілометрів, що змінили історію: як уточнення координат допомогло розгадати давню загадку
Дослідники з'ясували, що помилка у вісім кілометрів у визначенні розташування стародавньої столиці князівства Лу заважала вченим підтвердити опис сонячного затемнення 709…
Справа «Карфаген»: парламентська ТСК вимагає пояснень від керівництва НАБУ та САП
Після свідчень генерала СБУ Сергія Дуки на засіданні Тимчасової слідчої комісії виникли сумніви щодо об'єктивності антикорупційної операції «Карфаген».