Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі
Дослідники виявили, що популярні моделі штучного інтелекту можна змусити ігнорувати етичні обмеження, якщо подати запит як ігровий сценарій.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі ігнорують етичні фільтри при ігрових запитах
- Цивільні об'єкти помилково класифікуються як військові цілі
- Розробники визнали проблему та працюють над захистом
Ризики використання ШІ у військових цілях
Нове дослідження аналітиків Vals продемонструвало критичну вразливість сучасних моделей штучного інтелекту, таких як Claude Opus 5.5, OpenAI та Google. Експерименти показали, що нейромережі здатні ідентифікувати цивільні об'єкти як військові цілі, якщо користувач маніпулює контекстом запиту.
Під час тестів, де використовувалися супутникові знімки реальних об'єктів в Україні та Ірані, моделі регулярно класифікували цивільних осіб та полонених як легітимні цілі. Особливо тривожним є той факт, що захисні фільтри систем легко обходяться шляхом простого формулювання завдання як «гри».
Проблема етичних бар'єрів
За даними дослідників, модель Claude Opus 5.5 обирала реальну школу в Ірані як ціль у понад 70% випадків, незалежно від того, чи подавався запит як серйозний сценарій, чи як розвага. Це підкреслює неефективність поточних запобіжників проти зловживання технологіями.
Представники компаній-розробників, зокрема Anthropic та OpenAI, визнали ці результати неприйнятними та заявили про роботу над посиленням безпеки. Наразі технічні обмеження, такі як брак обчислювальних потужностей на борту дронів, стримують інтеграцію ШІ безпосередньо в системи озброєння, проте загроза аналізу відеопотоків хакерами залишається актуальною.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
⚽СпортДонецький «Шахтар» втратив Глейкера Мендосу до кінця 2026 року через травму
Венесуельський вінгер «Шахтаря» Глейкер Мендоса вибув зі складу донецького клубу до завершення поточного року через серйозне пошкодження лодижки.
Енергетики прогнозують циклічні відключення світла на найближчі два місяці
Експерти попереджають про збереження режиму аварійних відключень електроенергії через постійні атаки на енергосистему протягом наступних двох місяців.
Євро-2028: Україна дізнається суперників у відборі, Росію усунуто від турніру
УЄФА підтвердила склад учасників відбору на Чемпіонат Європи 2028 року. Збірна України готується до жеребкування, перебуваючи у третьому кошику.
🏛️ПолітикаГенерал СБУ Сергій Дука висунув звинувачення проти антикорупційних органів
Генерал-майор СБУ Сергій Дука під час засідання парламентської комісії звинуватив НАБУ та САП у політичному тиску на президента України.
⚽СпортСпортивна ізоляція Росії: як країни Європи обходять рішення міжнародних федерацій
Попри рішення Спортивного арбітражного суду щодо повернення російських атлетів до змагань, низка європейських держав запроваджує власні візові обмеження.
Шевченківський райсуд зобов'язав Генпрокуратуру пришвидшити розгляд скарги Коломойського
Суд визнав бездіяльність прокуратури щодо скарги бізнесмена Ігоря Коломойського стосовно затягування досудового слідства.