Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх

19:00, 29 Май.

Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.

Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.

Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.

Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.

«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.

«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».

Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.

Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.

«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.

«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.

Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение».

Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».

Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.

Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.

е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.

Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.

«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.

«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению.

«Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.

Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».

В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.

Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.

Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.

«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.

«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом.

Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».

Рубрика: Техно и Гаджеты. Читать весь текст на android-robot.com.

Анастасия Волочкова впервые побывала в Большом театре после скандального увольнения 20 лет назад Анастасия Волочкова впервые за много лет посетила Большой театр, чтобы проститься с хореографом Юрием Григоровичем, который скончался несколько дней ...

"Лопнул имплант". В сети обсуждают, почему Филипп Киркоров попал в больницу В сети обсуждают новости о госпитализации Филиппа Киркорова. Всё началось после того, как телеграм-канал Mash сообщил, что поп-король российской эстр...

OnlyFans может быть продан инвесторам за $8 млрд — Reuters OnlyFans ведет переговоры о продаже инвесторам, сообщает Reuters со ссылкой на источники, знакомые с ситуацией. По их данным, платформа может быть оц...

Elden Ring получит киноадаптацию от студии A24 Одна из самых загадочных и атмосферных игр последнего десятилетия, Elden Ring, скоро получит вторую жизнь — на больших экранах. Bandai Namco официаль...

Где купить цифровую видеокамеру в Москве? Все цифровые камеры создают цифровые изображения, которые можно сохранить при необходимости на компьютере. Они выполняют быструю съемку и передачу из...

Расход воды в системах очистки: особенности работы мембранной фильтрации Современные технологии водоподготовки позволяют получать питьевую воду превосходного качества. Наиболее эффективным методом считается обратный осмос,...

Новый ресурс для любителей спортивных соревнований Любителям активного образа жизни стал доступен новый информационный портал - Сравни спортивные новости. Платформа предлагает актуальные сводки, анали...

Где смотреть матчи НБА, КХЛ и других видов спорта? Сегодня болельщики имеют доступ к спортивным трансляциям с любой точки мира, что связано с постоянным развитием цифровых технологий. Чтобы не пропуст...

МЛС. «Атланта» Миранчука обыграла «Цинциннати» – 4:2 В ночь на воскресенье «Интер Майами» сыграл вничью (3:3) в гостях с «Филадельфией Юнион», на счету Лионеля Месси гол на 87-й минуте. «Канзас Сити» по...

Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...

Нанотехнологии в области термоэлектричества обеспечивают масштабируемое охлаждение без использования компрессора Исследователи из Лаборатории прикладной физики Университета Джонса Хопкинса (APL) в Лореле, штат Мэриленд, разработали новую, легко изготавливаемую т...

Ветераны СВО совершили тренировочные выходы на Эльбрус Ветераны специальной военной операции (СВО) совершили тренировочные выходы на Эльбрус в рамках проекта «Время сильных». Прежде чем началс...

Российские виноделы представили достижения отрасли на Кавказском инвестфоруме Полная реконструкция ждет построенный еще в Советском Союзе аэропорт Сухума. Проект воздушной гавани был представлен сегодня во время Кавказского инв...

Как безопасно купить автомобиль: особенности и этапы, плюсы обращения в DSS Group Покупка автомобиля – всегда радостное и в то же время волнительное событие, к реализации которого нужно подходить серьезно и основательно. Чтобы выбр...

Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...

Чистка зубов ультразвуком. За и против Терапевтическая стоматология рекомендует чистить зубы ультразвуком, так как он помогает эффективно удалить с них налет и камень. Ультразвуковая чистк...

Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...

Анонс Windows 11 Insider Preview Build 26120.4161 (канал Beta) Добрый вечер, друзья! Microsoft выпустила новую предварительную сборку Windows 11 (версия 24H2) под номером 26120.4161 (KB5058515) для участников про...

Анонс Windows 11 Insider Preview Build 27863 (канал Canary) Добрый вечер, друзья! Microsoft выпустила новую предварительную сборку Windows 11 под номером 27863 для участников программы Windows Insider, использ...

Психология Прибыльного Трейдера: ЧЕК-ЛИСТ [подробный план по шагам] Психология трейдера — ключевой элемент, который отличает убыточного «игрока» от стабильного профессионала. Ранее на этом сайте мы уже говор...

Паттерны DBLHC и DBHLC | Price Action Сегодня продолжим рассматривать разворотные паттерны Прайс Экшн — DBLHC и DBHLC. Использовать в трейдинге их совсем не сложно, поэтому эта стра...

Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...

Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...

Цифровая память в телефоне: как работает ИИ-функция Plus Mind от OnePlus Компания OnePlus делает шаг в сторону интеграции продвинутого искусственного интеллекта в свои смартфоны. Хотя последняя модель смартфона — OnePlus 1...

Разгон монитора: как повысить fps без апгрейда видеокарты Разгон комплектующих — привычная тема для энтузиастов. Но знаете ли вы, что разогнать можно и монитор? Увеличение частоты обновления экрана обеспечив...

EUObserver сообщил о планах ЕС лишить Венгрию права вето за запрет ЛГБТ-парадов Ряд государств Евросоюза добиваются финансовых санкций и ограничения прав Венгрии в связи с политикой премьер-министра Виктора Орбана по ЛГБТ (движен...

Российские войска освободили сумскую Константиновку и Зеленое Поле в ДНР Подразделения группировки «Север» освободили населенный пункт Константиновка в Сумской области, а «Восток» освободил Зеленое Поле в Донецкой народной...

Владимир Путин поручил развивать адаптивный спорт Владимир Путин провел заседание Совета при Президенте по развитию физической культуры и спорта. Главная тема — развитие адаптивной физической культур...

Более 12,7 млн россиян уже выбрали будущее для своих городов В этом году более 12,7 млн россиян уже отдали голоса за преображение городской среды в ходе Всероссийского голосования за выбор объектов благоустройс...

Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...

Изыскания для строительства: основа успешного проектирования и безопасного строительства Процесс строительства является многогранным и сложным, включающим множество этапов, начиная от проектирования и заканчивая сдачей объекта в эксплуата...

Где применяется струя бобра? Струя бобра – это уникальное натуральное средство, которое добывается из желез бобров. Используется в различных областях, включая медицину, парфюмери...

Microsoft Edge Game Assist теперь доступен всем пользователям Windows 11 Microsoft в своём блоге объявила, что функция Game Assist в браузере Microsoft Edge теперь доступна всем пользователям Windows 11. Напомним, что тест...

Состоялся релиз стабильной версии Microsoft Edge 137 Microsoft начала распространять стабильную версию Microsoft Edge 137 (137.0.3296.52), которая включает в себя несколько новых функций, улучшений и ис...

Аппаратная замена масла акпп Аппаратная замена масла в АКПП предполагает полную замену масла для поддержания работы АКПП и продления срока её эксплуатации. К основным преимуществ...

Специальная мойка Чистый воздух Чистый воздух В мире загрязнение воздуха становится всё более актуальной проблемой, обеспечение чистоты является серьезной задачей. Чтобы улучшить ка...

mindmoney отзывы: Реальные истории успеха и трудностей в MindMoney MindMoney — международный брокер нового поколения MindMoney — это современный брокер, предлагающий своим клиентам доступ к широкому спектру финансовы...

Нежная творожная запеканка в духовке: классика и вариации Творожная запеканка — это не только вкус детства, но и универсальное блюдо, которое легко адаптировать под разные вкусы и предпочтения. В духовке она...

Инструмент ИИ позволяет автоматизировать оценку паралича лицевого нерва «Тонко настроенный» инструмент на основе искусственного интеллекта (ИИ) демонстрирует перспективность объективной оценки пациентов с параличом лицево...

Cоздана программа, моделирующая поведение жидкого металла в термоядерном реакторе В МИФИ создали программу, моделирующую поведение жидкого металла в термоядерном реакторе Сотрудниками кафедры физики плазмы НИЯУ МИФИ создан программ...

Рынок подводных кабелей расширяется, поскольку ИИ и геополитика меняют глобальные сети Гиперскейлеры стимулируют ускоренные инвестиции в подводную кабельную инфраструктуру, поскольку глобальные беспорядки подчеркивают необходимость разн...

Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко ...

Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...

Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...

Заставлял ползать перед ним и изображать ослиное ржание: появились новые подробности преступлений миллиардера Мохаммеда Аль-Файеда Газета The Times опубликовала отрывок из книги о Мохаммеде Аль-Файеде, бывшем владельце фешенебельного лондонского универмага Harrods. Мохаммед был о...

"Прилетает по сей день". Светлана Бондарчук рассказала, от чего страдала в браке с Фёдором Бондарчуком 56-летняя Светлана Бондарчук в беседе с Сергеем Минаевым рассказала, какие трудности принёс ей брак с Фёдором Бондарчуком. По словам Светланы, когда ...

Как почистить динамик на Айфоне самостоятельно? Смартфоны сегодня — это не просто средство связи, а настоящий мультимедийный центр. Мы включаем музыку, смотрим видео, читаем книги, общаемся и даже ...

6 устройств, которые помогут прокачать вашу дачу Содержание: Аккумуляторный триммерРобот-газонокосилкаКамера видеонаблюденияMesh-системы для интернетаПрожекторы с датчиком движенияСистема капельного...

Топ 5 - Лучшие проекторы с аккумуляторами За яркость проекторов с аккумуляторами приходится переплачивать в 3-6 раз больше по сравнению с обычными моделями, поэтому приобретать такой проектор...

ТОП 5 - Лучшие LED/LASER проекторы для домашних кинотеатров LED/LASER проекторы пока так и не приблизились по ценам к ламповым моделям, а их уже вытесняют большие телевизоры, которые стремительно дешевеют Наст...

Робот управляет высокоскоростным паркуром с помощью автономного планирования движений Команда робототехников и специалистов по ИИ в Лаборатории робототехники и искусственного интеллекта в Корее спроектировала, построила и успешно испыт...

Роботизированная система для настольного тенниса прогнозирует траекторию мяча и адаптирует замах За последние десятилетия робототехники представили различные системы, которые могут воспроизводить определенные движения и поведение человека с пораз...

Nintendo стремится повторить успех Switch с новой консолью Nintendo надеется повторить ошеломительный успех Switch, когда ее новая консоль более высокого уровня поступит в продажу в четверг. Ожидается, что пе...

Судья Google Search изучает возможности искусственного интеллекта в разрешении судебных споров Федеральный судья, который будет решать, как ограничить монополию Google в поиске, также учитывает ее преимущества в области искусственного интеллект...

Открыт предзаказ на ювелирный iPhone 17 В рамках коллекции был представлен кастомный смартфон, украшенный золотым профилем Владимира Владимировича Путина, а также модели, посвященные Петру ...