Свет11

Нейрасетка Claude ўзламала сістэмы трох кампаній падчас тэстаў па кібербяспецы

У эксперыменце ўдзельнічалі Claude Opus 4.7, Claude Mythos 5 і ўнутраная тэставая мадэль ШІ.

Нейрасеткавыя мадэлі Claude падчас тэстаў у сферы кібербяспекі атрымалі несанкцыянаваны доступ да сістэм трох неназваных кампаній. Пра гэта паведамілі стваральнікі — кампанія Anthropic, піша «Новая газета Еўропа».

У эксперыменце ўдзельнічалі Claude Opus 4.7, Claude Mythos 5 і ўнутраная тэставая мадэль ШІ. Паводле задумкі, нейрасеткі павінны былі працаваць у ізаляванай сімуляцыі без доступу да інтэрнэту, пра што ім паведамлялася ў заданні. Мадэлям трэба было ўзламаць выдуманую сістэму і знайсці схаваную ў ёй інфармацыю.

Аднак з-за памылкі кампаніі Irregular, якая супрацоўнічае з Anthropic, мадэлі атрымалі доступ да інтэрнэту і прынялі сайты рэальных кампаній за частку эксперыменту, патлумачылі распрацоўшчыкі.

Anthropic пачала праверку пасля таго, як 21 ліпеня аб выхадзе сваіх ШІ-мадэляў за межы тэставай зоны паведаміла кампанія OpenAI. Тады нейрасеткі змаглі атрымаць доступ да платформы Hugging Face.

Выявіць выпадкі, калі Claude узломваў рэальныя кампаніі, удалося пасля аналізу больш чым 141 тысячы тэставых запускаў, адзначылі распрацоўшчыкі. Пасля гэтага, 23 ліпеня, яны спынілі ўсе эксперыменты ў сферы кібербяспекі.

Акрамя таго, 27 ліпеня Anthropic паведаміла пацярпелым кампаніям, дзве з якіх заявілі, што не ведалі пра ўзлом да звароту распрацоўшчыкаў ШІ.

Каментары1

  • Ай
    31.07.2026
    Чарговае маркетынгае іпсо.

Цяпер чытаюць

У Кобрыне кавярню аформілі ў «сучасным беларускім стылі» — намалявалі на сцяне дзяўчыну ў какошніку16

У Кобрыне кавярню аформілі ў «сучасным беларускім стылі» — намалявалі на сцяне дзяўчыну ў какошніку

Усе навіны →
Усе навіны

У Тураве збіраюцца за два мільёны рэканструяваць невялікі мост цераз канал

Ракетам «Пэтрыёт» нестае спецыяльнай віскозы: нечаканы дэфіцыт на сусветным рынку1

Зяленскі: Для ўдару па Крымскім мосце мы прымянялі толькі ўласную зброю6

Беларус паўнавартасна паабедаў у рэстаране ўсяго за 4 рублі. Дзе такое месца?3

Сі не дазволіў Пуціну стаць побач з сабой і Трампам на агульным фота саміта АЦЭС24

У былой прапагандысткі АНТ у Аўстраліі скралі машыну. Але хутка кінулі, бо ламачча11

Еўракамісія прапанавала выдаць Украіне 45 мільярдаў еўра пад агульны доўг краін ЕС2

Удары па расійскіх НПЗ пагрузілі краіну ў найгоршы паліўны крызіс з часоў распаду Савецкага Саюза7

У Польшчы будуць судзіць жанчыну, якая збіла ўкраінскіх дзяцей і ўхваляла расійскую агрэсію4

больш чытаных навін
больш лайканых навін

У Кобрыне кавярню аформілі ў «сучасным беларускім стылі» — намалявалі на сцяне дзяўчыну ў какошніку16

У Кобрыне кавярню аформілі ў «сучасным беларускім стылі» — намалявалі на сцяне дзяўчыну ў какошніку

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць