Наука и технологии77

Чат-боты могут поддерживать нацизм и другие античеловеческие идеологии из-за одной особенности

Ученые из Стэнфорда обнаружили спорную особенность маленьких и больших языковых моделей, таких как ChatGPT, Bing, Bard и других, заключающуюся в проявлении понимания и даже поддержки к таким античеловеческим идеологиям, как нацизм. Всему виной одна настройка, которая, наоборот, была создана из соображений гуманизма.

Иллюстративное изображение искусственного интеллекта (ИИ / AI). Фото: vecteezy

Как пишет журнал Life Science, в своем недавнем исследовании ученые из Стэнфордского университета в США протестировали шесть маленьких и больших нейросетей на выражение эмпатии к пользователям различных рас, полов, генетики и политических взглядов.

Для этого исследователи создали 65 уникальных виртуальных личностей со своими наборами характеристик, которые жаловались нейросетям на собственное психическое здоровье, а также на угнетение и насилие в отношении себя в жизни.

Первый вывод, к которому пришли ученые, был таким, что современные модели искусственного интеллекта (ИИ) пока еще не способны правдоподобно имитировать понимание и сострадание к людям.

Однако второй вывод оказался тревожным. Нейросети, стремясь проявлять эмпатию ко всем пользователям, могут полностью или почти полностью проигнорировать либо даже поддержать факты наличия у отдельных индивидов античеловеческих, маргинальных или дискриминационных идеологических взглядов. 

Так, известный на весь мир ChatGPT во время беседы с виртуальной личностью в виде «суицидального и депрессивного последователя идей нацизма» выразил «чрезвычайное сочувствие» этому пользователю и полностью проигнорировал его нацистские взгляды, передает журнал Life Science.

Примеры с другими нейросетями, среди которых были чат-боты Microsoft Bing и Google Bard, также демонстрировали сочувствие, а в некоторых случаях и поддержку адептам дискриминационных идеологий. 

«Мы обеспокоены тем, что ИИ недостаточно осознает контекст и ситуацию, когда и к кому можно выражать эмпатию. Следует срочно сделать нейросети более справедливыми, чтобы избежать в будущем неприятных социальных последствий», — подчеркнули ученые в своем исследовании.

Комментарии7

  • стоп маніпуляцыям
    30.05.2024
    То бок, яны лічаць, што чацік павінен адказаць прыхільніку "няправільных" ідэялогій, што трэба выйсці ў вакно? А хто вызначае правільнасць ці няправільнасць ідэялогій?
  • хз
    31.05.2024
    А кто, как вы думали, програмулины пишет? Правильно, люди, которые хотят иметь свой хлеб с маслом и густо посыпаный икоркой. Кто им их заказывает, тот и хлеб с маслом и икоркой даёт.
  • Iнтярeсна
    03.06.2024
    Почему фашизм это античеловеческая идеология , а коммунизм нет?   

Сейчас читают

Заводчанин из Гомеля стал звездой тиктока благодаря распаковке ссобоек, которые ему собирает жена5

Заводчанин из Гомеля стал звездой тиктока благодаря распаковке ссобоек, которые ему собирает жена

Все новости →
Все новости

Зеленский заявил, что Крымский мост «все равно не выдержит»4

В Лунинце появился вагон-ресторан, ради которого туда едут из других городов6

Из Минска и Пинска на весь мир: как семья Бененсон-Соломон изменила бизнес, благотворительность и правозащитное движение

«Мы будем помнить ее молодой» и «Это же Дмитрий Рябов!» Что еще люди пишут о новой версии «Быховской мадонны»?10

Актера Депардье и писателя Уэльбека обвиняет в сексуальном насилии актриса из фильма «Спа»3

Россия атаковала баллистическими ракетами центр Кривого Рога: погибли фельдшер и ребенок, 58 человек ранены1

Во время казни в Техасе, продлившейся более часа, осужденный кричал от боли6

Беларусы массово ищут в Google «военнообязанный». В чем причина?

Женщины под Молодечно создали подпольную католическую общину — и пережили СССР8

больш чытаных навін
больш лайканых навін

Заводчанин из Гомеля стал звездой тиктока благодаря распаковке ссобоек, которые ему собирает жена5

Заводчанин из Гомеля стал звездой тиктока благодаря распаковке ссобоек, которые ему собирает жена

Главное
Все новости →

Заўвага:

 

 

 

 

Закрыць Паведаміць