Свет

Нейрасеткі могуць выпадкова выдаць інструкцыю стварэння ядзернай зброі?

Міністэрства энергетыкі ЗША разам з іншымі ведамствамі выкарыстоўвае папулярную сістэму штучнага інтэлекту для тэсціравання ядзернай бяспекі. Аднак, як піша выданне Axios, гэта можа прывесці да сцэнару, калі нейрасеткі, дапушчаныя да ядзерных праграм, могуць выпадкова выдаць сакрэты любому карыстальніку.

Ілюстрацыйны малюнак, створаны з дапамогай штучнага інтэлекту ChatGPT (DALL·E)

Амерыканская высакатэхналагічная кампанія Anthropic разам з Міністэрствам энергетыкі ЗША выпрабоўвае свае мадэлі штучнага інтэлекту (ШІ), каб пераканацца, што яны не могуць быць выкарыстаны для стварэння ядзернай зброі. Пра гэта кампанія паведаміла выданню Axios.

Anthropic заяўляе, што яе сістэма штучнага інтэлекту Claude (адна з самых перадавых на сёння нейрасетак) стала першай, якой афіцыйна дазволілі выкарыстоўвацца ў сакрэтных урадавых праграмах ЗША, у тым ліку ядзернай.

З красавіка гэтага года Anthropic супрацоўнічае з Адміністрацыяй па нацыянальнай ядзернай бяспецы (NNSA), і адначасова ладзіць з ёй маштабнае сумеснае даследаванне, ці можа Claude раптоўна выдаць ядзерныя сакрэты трэцім асобам па запыце. 

Спецыялісты NNSA і Anthropic наўмысна спрабуюць «узламаць» Claude і прымусіць яго, напрыклад, зліць інструкцыю па распрацоўцы ядзернай зброі, піша Axios (з гэтага вынікае, што штучны інтэлект ужо мае доступ да такога тыпу даных).

Даследаванне яшчэ працягваецца і скончыцца толькі ў лютым 2025 года, таму вынікі тэсціравання Claude пакуль не вядомыя. Кампанія Anthropic, у сваю чаргу, плануе падзяліцца высновамі з навуковымі лабараторыямі і іншымі арганізацыямі, каб яны маглі таксама правесці аналагічныя выпрабаванні.

Навошта ўвогуле даваць ШІ доступ да ядзернай праграмы?

Нейрасеткі могуць істотна павысіць эфектыўнасць ядзерных удараў: яны здольныя разлічваць траекторыю палёту боегалоўкі такім чынам, каб патрапіць у цэль з мінімальнымі стратамі і разбурэннямі. Гэта асабліва важна для тактычнай ядзернай зброі, якая прызначана для паразы лакальных аб'ектаў.

Перадавыя сістэмы ШІ, як той жа Claude, таксама здольныя з высокай дакладнасцю сімуляваць ядзерныя выбухі і аналізаваць іх наступствы. Гэтая інфармацыя можа спатрэбіцца для ўдасканалення канструкцыі боегаловак. Акрамя таго, ШІ можа апрацоўваць даныя аб ландшафце, экалогіі, інфраструктуры на тэрыторыі праціўніка і гэтак далей, задаючы, задаючы аптымальныя параметры для ўдару.

Каментары

Цяпер чытаюць

Пуцін, Трамп і Сі прынялі «дэкларацыю аб міры», раскрытыкавалі ў ёй Гаагскі трыбунал13

Пуцін, Трамп і Сі прынялі «дэкларацыю аб міры», раскрытыкавалі ў ёй Гаагскі трыбунал

Усе навіны →
Усе навіны

Кавалер збег са спаткання, не заплаціўшы за вячэру. Ці павінна дзяўчына аплачваць увесь рахунак?11

У Кобрыне кавярню аформілі ў «сучасным беларускім стылі» — намалявалі на сцяне дзяўчыну ў какошніку32

Трамп і Пуцін абмяркоўвалі вайну ва Украіне1

Інфапункты для беларусаў за мяжой створаць у Вільні, Варшаве і Познані. Колькі ў іх будзе супрацоўнікаў і хто стане плаціць заробкі?6

Украіна трэці раз з пачатку тыдня атакавала Крымскі мост1

Карціна Ван Гога прададзена з аўкцыёну за рэкордныя 190,4 мільёна даляраў2

Як згуляць у GTA 6, калі жывеш у Беларусі3

З 1 студзеня днём рух грузавікоў па МКАД плануюць забараніць

Трамп і Пуцін сустрэліся на палях саміта АЦЭС3

больш чытаных навін
больш лайканых навін

Пуцін, Трамп і Сі прынялі «дэкларацыю аб міры», раскрытыкавалі ў ёй Гаагскі трыбунал13

Пуцін, Трамп і Сі прынялі «дэкларацыю аб міры», раскрытыкавалі ў ёй Гаагскі трыбунал

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць