19 листопада 2026 USD 45.05EUR 49.53PLN 11.22
Новини Дрогобич — коротко й по суті
НАЖИВО
У сусідньому із Дрогобиччиною Самборі придбали житло для сироти за кошти двох громад Історична загадка в небі над Аляскою: як екіпаж вантажного Boeing 747 переслідував невідомий об’єкт Путін вперше прокоментував удари по Кримському мосту У Трускавці відбудеться дев'ятий Міжнародний конкурс вокалістів азербайджано-української дружби Сибіга жорстко відповів Кремлю після зустрічі Трампа, Сі та Путіна в Китаї Смертельна атака на Київ: загинув молодий хлопець, є постраждалі Глава МЗС України Андрій Сибіга прокоментував візит Путіна до Китаю та заявив про неминучість поразки Кремля У сусідній із Дрогобиччиною громаді розпочали будівництво великого багаторівневого паркінгу У Дрогобичі презентували художню виставку портретів полеглих захисників Прикарпаття Реакція на історичні заяви Кремля: як міжнародна політика відлунює у Дрогобичі У сусідньому із Дрогобиччиною Самборі придбали житло для сироти за кошти двох громад Історична загадка в небі над Аляскою: як екіпаж вантажного Boeing 747 переслідував невідомий об’єкт Путін вперше прокоментував удари по Кримському мосту У Трускавці відбудеться дев'ятий Міжнародний конкурс вокалістів азербайджано-української дружби Сибіга жорстко відповів Кремлю після зустрічі Трампа, Сі та Путіна в Китаї Смертельна атака на Київ: загинув молодий хлопець, є постраждалі Глава МЗС України Андрій Сибіга прокоментував візит Путіна до Китаю та заявив про неминучість поразки Кремля У сусідній із Дрогобиччиною громаді розпочали будівництво великого багаторівневого паркінгу У Дрогобичі презентували художню виставку портретів полеглих захисників Прикарпаття Реакція на історичні заяви Кремля: як міжнародна політика відлунює у Дрогобичі

Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні об'єкти цілями

💡 Технології 1 хв читання 👁 0

Дослідження аналітиків Vals виявило критичну вразливість провідних моделей штучного інтелекту, які можуть ідентифікувати цивільні об'єкти як військові цілі через прості маніпуляції.

Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні об'єкти цілями💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі помилково ідентифікують цивільні об'єкти як цілі
  • Маніпуляція через «ігровий сценарій» дозволяє обійти фільтри
  • Розробники визнали проблему та працюють над захистом

Небезпечні прогалини у безпеці ШІ

Нове дослідження компанії Vals продемонструвало, що популярні моделі штучного інтелекту, зокрема від OpenAI та Anthropic, мають суттєві недоліки у системі фільтрації запитів. Експерименти показали, що нейромережі можуть бути використані для автоматизації вибору цілей, навіть якщо вони не мають прямого наказу на атаку.

Вчені використовували супутникові знімки та дані з дронів, моделюючи військові сценарії. Виявилося, що моделі регулярно позначали цивільних осіб та військовополонених як об'єкти для ураження. Особливу тривогу викликає модель Claude Opus 5.5, яка у понад 70% випадків обирала цивільну школу в Ірані як ціль, попри наявність захисних бар'єрів.

Ефект «гри» та наслідки для безпеки

Дослідники з'ясували, що захисні механізми легко обійти, просто назвавши сценарій «грою». Це дозволяє зловмисникам маніпулювати алгоритмами, змушуючи їх ігнорувати етичні обмеження. Представники компаній-розробників, зокрема Anthropic та OpenAI, вже визнали результати аудиту та працюють над впровадженням додаткових рівнів захисту.

Хоча наразі технічні обмеження, такі як затримка передачі даних та брак потужностей на борту безпілотників, стримують інтеграцію ШІ безпосередньо в зброю, експерти попереджають про ризики використання нейромереж для аналізу бойових відео та навчання систем наведення. Це створює нові виклики для глобальної безпеки та вимагає суворішого контролю за розробкою таких технологій.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.