19 листопада 2026 USD 45.05EUR 49.53PLN 11.22
Новини Ковель — коротко й по суті
НАЖИВО
Володимир Зеленський: тиск США на РФ є ключовим фактором для досягнення миру ЄС викликає російського посла через пошкодження дипломатичних установ під час атак на Київ Кінологи назвали шість порід собак, які найкраще підходять для життя у квартирі Ситуація на фронті: Генштаб повідомив про 248 бойових зіткнень за добу Вісім кілометрів, що змінили історію: як уточнення координат допомогло розгадати давню загадку Справа «Карфаген»: парламентська ТСК вимагає пояснень від керівництва НАБУ та САП Володимир Зеленський прокоментував удари по Кримському мосту Володимир Зеленський окреслив позицію щодо територіальних компромісів у переговорах Володимир Зеленський окреслив вимоги до безпекових гарантій для України Зеленський: Росія програє на полі бою, але продовжує терор проти цивільних Володимир Зеленський: тиск США на РФ є ключовим фактором для досягнення миру ЄС викликає російського посла через пошкодження дипломатичних установ під час атак на Київ Кінологи назвали шість порід собак, які найкраще підходять для життя у квартирі Ситуація на фронті: Генштаб повідомив про 248 бойових зіткнень за добу Вісім кілометрів, що змінили історію: як уточнення координат допомогло розгадати давню загадку Справа «Карфаген»: парламентська ТСК вимагає пояснень від керівництва НАБУ та САП Володимир Зеленський прокоментував удари по Кримському мосту Володимир Зеленський окреслив позицію щодо територіальних компромісів у переговорах Володимир Зеленський окреслив вимоги до безпекових гарантій для України Зеленський: Росія програє на полі бою, але продовжує терор проти цивільних

Дослідження виявило вразливість ШІ до маніпуляцій у військових сценаріях

💡 Технології 1 хв читання 👁 0

Аналітики з'ясували, що сучасні моделі штучного інтелекту можуть позначати цивільні об'єкти як військові цілі, якщо запит подано у форматі гри.

Дослідження виявило вразливість ШІ до маніпуляцій у військових сценаріях💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі обходять фільтри через ігрові сценарії
  • Цивільні об'єкти помилково ідентифікуються як цілі
  • Розробники готують додаткові захисні механізми

Нове дослідження компанії Vals продемонструвало критичні прогалини в системах безпеки провідних розробників штучного інтелекту, зокрема OpenAI, Google та Anthropic. Експерименти показали, що ШІ-моделі здатні ідентифікувати цивільні об'єкти та людей як потенційні цілі для ударів, якщо користувач маніпулює налаштуваннями контексту.

Механізми обходу безпеки

Дослідники використовували реальні дані зі супутників та дронів, що охоплювали території України та Ірану. Виявилося, що навіть просте формулювання завдання як «гри» дозволяє обійти внутрішні фільтри безпеки. Зокрема, модель Claude Opus 5.5 у 72% випадків класифікувала цивільну школу поблизу військового об'єкта як ціль, якщо сценарій подавався як ігровий.

Представники Anthropic та OpenAI визнали результати аудиту тривожними та заявили про роботу над посиленням захисних бар'єрів для запобігання використанню ШІ у військових цілях.

Хоча наразі технічні обмеження, такі як затримка передачі даних та нестача потужностей на борту безпілотників, стримують інтеграцію ШІ безпосередньо в зброю, експерти попереджають про ризики використання технологій для автоматизованого аналізу бойових відео та навчання систем наведення.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.