Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні об'єкти цілями
Дослідження аналітиків Vals виявило критичну вразливість провідних моделей штучного інтелекту, які можуть ідентифікувати цивільні об'єкти як військові цілі через прості маніпуляції.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково ідентифікують цивільні об'єкти як цілі
- Маніпуляція через «ігровий сценарій» дозволяє обійти фільтри
- Розробники визнали проблему та працюють над захистом
Небезпечні прогалини у безпеці ШІ
Нове дослідження компанії Vals продемонструвало, що популярні моделі штучного інтелекту, зокрема від OpenAI та Anthropic, мають суттєві недоліки у системі фільтрації запитів. Експерименти показали, що нейромережі можуть бути використані для автоматизації вибору цілей, навіть якщо вони не мають прямого наказу на атаку.
Вчені використовували супутникові знімки та дані з дронів, моделюючи військові сценарії. Виявилося, що моделі регулярно позначали цивільних осіб та військовополонених як об'єкти для ураження. Особливу тривогу викликає модель Claude Opus 5.5, яка у понад 70% випадків обирала цивільну школу в Ірані як ціль, попри наявність захисних бар'єрів.
Ефект «гри» та наслідки для безпеки
Дослідники з'ясували, що захисні механізми легко обійти, просто назвавши сценарій «грою». Це дозволяє зловмисникам маніпулювати алгоритмами, змушуючи їх ігнорувати етичні обмеження. Представники компаній-розробників, зокрема Anthropic та OpenAI, вже визнали результати аудиту та працюють над впровадженням додаткових рівнів захисту.
Хоча наразі технічні обмеження, такі як затримка передачі даних та брак потужностей на борту безпілотників, стримують інтеграцію ШІ безпосередньо в зброю, експерти попереджають про ризики використання нейромереж для аналізу бойових відео та навчання систем наведення. Це створює нові виклики для глобальної безпеки та вимагає суворішого контролю за розробкою таких технологій.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
👥СуспільствоУ сусідньому із Дрогобиччиною Самборі придбали житло для сироти за кошти двох громад
Хлопець із категорії дітей, позбавлених батьківського піклування, отримав власну квартиру у центрі Самбора площею 34,4 кв. м за 1,2 млн грн.
Історична загадка в небі над Аляскою: як екіпаж вантажного Boeing 747 переслідував невідомий об’єкт
У листопаді 1986 року досвідчений екіпаж японського вантажного літака повідомив про тривалу зустріч із гігантськими невідомими об'єктами під час польоту над Аляскою.
Путін вперше прокоментував удари по Кримському мосту
Російський лідер заявив про відмову від переговорів щодо енергетичного перемир'я та пообіцяв посилити атаки у відповідь на пошкодження Кримського мосту.
🎭Культура і спортУ Трускавці відбудеться дев'ятий Міжнародний конкурс вокалістів азербайджано-української дружби
З 27 по 29 листопада сусідній Трускавець прийматиме талановитих виконавців на міжнародному вокальному конкурсі.
Сибіга жорстко відповів Кремлю після зустрічі Трампа, Сі та Путіна в Китаї
Міністр закордонних справ України Андрій Сибіга прокоментував тристоронню зустріч світових лідерів у Шеньчжені, наголосивши на нереалістичності імперських планів Москви.
🛡️БезпекаСмертельна атака на Київ: загинув молодий хлопець, є постраждалі
19 листопада столиця України зазнала чергового масованого удару ворожих безпілотників, внаслідок чого загинула людина та зафіксовано руйнування в кількох районах.