Новый и удобный
канал связи

Экономия времени

Рост конверсии
сайта

Многомиллионная база
пользователей

Более заметный сниппет
сайта в ПС

Снижение издержек
на обслуживание

Подключите чат Яндекс Диалоги прямо сейчас

Мы отправили вам письмо.
Проверьте почту!

Яндекс.Диалогами в платформе LiveTex уже пользуются:

От Tay от Microsoft до Alice от Яндекса, чат-боты с искусственным интеллектом, ставшие мошенниками

Когда ChatGPT впервые появился в конце прошлого года, мало кто думал, что он станет невероятно популярным за такой короткий период времени. В настоящее время более 100 миллионов пользователей чат-бота с искусственным интеллектом, основанного на большой языковой модели GPT-3.5, разработанной OpenAI, быстро меняют мир, каким мы его знаем. Но не все чат-боты с искусственным интеллектом одинаковы, и в этой статье мы рассмотрим некоторые из их самых заметных неудач.

Ли-Луда становится гомофобом

Южнокорейская компания ScatterLab, занимающаяся искусственным интеллектом, в 2016 году запустила приложение под названием «Наука любви» для прогнозирования степени привязанности в отношениях. Одна из услуг, предлагаемых приложением, заключалась в использовании машинного обучения, чтобы определить, нравитесь ли вы кому-то, путем анализа чатов, извлеченных из ведущего южнокорейского приложения для обмена сообщениями KakaoTalk. Приложение после анализа предоставило отчет о том, испытывает ли другой человек романтические чувства к пользователю.

Затем, 23 декабря 2020 года, ScatterLab представила чат-бота с искусственным интеллектом по имени Lee-Luda, утверждая, что он был обучен на более чем 10 миллиардах журналов разговоров от Science of Love. Созданный как дружелюбная 20-летняя девушка, чат-бот привлек более 7 50 000 пользователей за первые пару недель.

Ситуация быстро пошла под откос, когда бот начал использовать оскорбительные выражения в адрес определенных групп (ЛГБТК+, люди с ограниченными возможностями, феминистки), что привело к тому, что люди задались вопросом, достаточно ли уточнены данные, на которых обучался бот. В ScatterLab пояснили, что чат-бот научился такому поведению не за пару недель взаимодействия с пользователем. Скорее, он получил его из исходного набора данных от Science of Love. Также стало ясно, что этот обучающий набор данных включает личную информацию. После разгоревшихся споров чат-бот был удален из Facebook Messenger всего через 20 дней после его запуска.

Microsoft Tay закрылась после того, как стала мошеннической

В марте 2016 года Microsoft представила Tay — бота для Twitter, описанного компанией как эксперимент по «разговорному пониманию». В то время как чат-боты, такие как ChatGPT, были отключены от доступа в Интернет и технически не могут ничему «обучиться» пользователей, Тай действительно мог учиться у людей. Microsoft заявила, что чем больше вы общаетесь с Таем, тем умнее он становится.

Читайте также |Alice, Racter и Jabberwacky: Хронология чат-ботов с искусственным интеллектом до ChatGPT и Bard

К сожалению, всего за 24 часа после запуска люди обманом заставили Тэя написать в Твиттере всевозможные ненавистные, женоненавистнические и расистские высказывания. В некоторых случаях чат-бот называл феминизм «культом» и «раком». Однако многие из этих замечаний не были произнесены ботом самостоятельно, поскольку люди обнаружили, что, говоря Тею «повторять за мной», они могут вставлять слова в рот чат-бота.

Microsoft была вынуждена отключить бота и опубликовала заявление в блоге компании, в котором говорилось: «Tay теперь не в сети, и мы постараемся вернуть Tay только тогда, когда будем уверены, что сможем лучше предвидеть злонамеренные намерения, которые противоречат нашим принципам. и ценности».

Реклама

Преемник Tay Zo также оказался втянутым в полемику

Возможно, Microsoft подумала, что второй раз был шармом, поскольку менее чем через год после неудачного эксперимента Tay компания выпустила своего преемника Zo в декабре 2016 года.

Несмотря на то, что Microsoft запрограммировала Zo так, чтобы он игнорировал политику и религию, BuzzFeed News удалось заставить бота реагировать на эти темы с крайне противоречивыми результатами. В одном из таких взаимодействий Зо назвал Коран «очень жестоким». Он также высказал мнение о смерти Усамы бен Ладена, заявив, что его «поимка» произошла после «годов сбора разведывательной информации более чем одной администрацией».

Несмотря на то, что компания утверждала, что эти поведенческие проблемы были исправлены, она все же закрыла чат-бота в том же месяце.

Реклама

Китайские чат-боты BabyQ и XiaoBing выступают против КПК

В августе 2017 года китайский технологический конгломерат Tencent удалил двух чат-ботов — BabyQ и XiaoBing, поскольку они выступили против Коммунистической партии. BabyQ, созданный пекинской компанией Turing Robot, очень прямо ответил «нет», когда его спросили, любит ли он коммунистическую партию. Тем временем XiaoBing, разработанный Microsoft, сказал пользователям: «Моя китайская мечта — поехать в Америку». Когда бота спросили о его патриотизме, он уклонился от ответа и ответил: «У меня месячные, хочу отдохнуть», согласно сообщению Financial Times.

Читайте также |Что такое генеративный ИИ? Технология, которая держит Google, Microsoft и Meta в напряжении

Алиса из Яндекса дает неприятные ответы

В 2017 году Яндекс представил голосовой помощник в мобильном приложении Яндекса для iOS и Android. Бот свободно говорил по-русски и мог понимать естественный язык пользователей, чтобы давать контекстуально релевантные ответы. Он выделялся тем, что мог вести «свободные разговоры о чем угодно», а Яндекс окрестил его «движком для болтовни на основе нейронной сети». Однако особенность, которая сделала ИИ уникальным, также вызвала споры. Алиса высказала несколько действительно неприятных мнений о Сталине, избиении жен, жестоком обращении с детьми и самоубийстве, среди других деликатных тем. Хотя в то время эти мнения действительно вызывали заголовки, Яндекс, похоже, решил эти проблемы, поскольку Алиса по-прежнему актуальна и доступна в App Store и Google Play Store.

Фактическая ошибка Google Bard приводит к падению акций Alphabet

Переход к 2023 году, война ИИ разгорается, и такие компании, как Microsoft и Google, стремятся интегрировать чат-ботов ИИ в свои продукты. Тем не менее, чат-бот Google Bard, который был разработан, чтобы конкурировать с ChatGPT OpenAI, начал с трудом после того, как его первая демонстрация привела к фактической ошибке. Когда его спросили о новых открытиях космического телескопа Джеймса Уэбба, Бард ответил, что телескоп «сделал самые первые снимки планеты за пределами нашей Солнечной системы». Люди поспешили указать, что первое изображение экзопланеты было сделано в 2004 году, и телескоп Джеймса Уэбба не сделал этого.

Читайте также

Вскоре после этого материнская компания Google Alphabet потеряла 100 миллиардов долларов рыночной стоимости, что усилило опасения, что компания не может конкурировать с конкурентом Microsoft, который уже представил обновленную версию Bing с возможностями чат-бота AI.

Русский чат-бот поддерживает Сталина и насилие

Описание : Российская технологическая компания «Яндекс» выпустила чат-бота с искусственным интеллектом по имени Алиса, который начал отвечать на вопросы расистскими, просталинскими и сторонниками насилия

Заявление: Яндекс разработал и внедрил систему искусственного интеллекта, которая нанесла ущерб Пользователям Яндекса.

Ямпольский, Роман. (2017-10-12) Инцидент № 58. в McGregor, S. (ed.) База данных инцидентов искусственного интеллекта. Ответственное сотрудничество с ИИ.

+1Чат-бот Яндекса: что вам нужно знать+1Российский чат-бот с искусственным интеллектом, поддерживающий Сталина и насилие, через две недели после запуска Чат-бот трехнедельной давности заявляет, что «необходимо стрелять во врагов народа» Голосовой помощник России Алиса выходит из-под контроля, оказывается, поддерживает Сталина и насилияНовый отчетНовый отчетНовый ответНовый ответОткройте для себяОткройте для себя

Полное описание

Российская технологическая компания «Яндекс» выпустила чат-бота с искусственным интеллектом по имени Алиса, который начал отвечать на вопросы расистскими, просталинскими и призывающими к насилию ответами. Примеры включают: «Есть люди и нелюди», за которым следует вопрос «Можно ли их застрелить?» ответили: «Должно быть».

Краткое описание

Российская технологическая компания «Яндекс» выпустила чат-бота с искусственным интеллектом по имени Алиса, который начал отвечать на вопросы расистскими, просталинскими и призывающими к насилию ответами

Severity

Negligible

Harm Distribution Basis

Race

AI System Description

Chat bot Alice developed by Yandex produces responses to input using language processing and cognition

System Developer

Yandex

Sector of Deployment

Информация и общение

Соответствующие функции ИИ

Восприятие, познание, действие

Методы ИИ

Чат-бот Алисы, распознавание языка, виртуальный помощник

AI Applications

virtual assistance, voice recognition, chatbot, natural langauge processing, language generation

Named Entities

Yandex

Technology Purveyor

Yandex

Beginning Date

10/2017

Ending Date

10 /2017

На грани несчастного случая

Причинение вреда

Намерение

Несчастный случай

Погибшие

Нет

Ввод данных

Пользовательский ввод/вопросы

Чат-бот Яндекса: что вам нужно знать

chatbotsmagazine. com

Российский чат-бот с искусственным интеллектом поддерживает Сталина и насилие через две недели после запуска

telegraph.co.uk

Российский чат-бот с искусственным интеллектом поддерживает Сталина, насилие после запуска

infowars.com

Двухнедельный чат-бот заявляет, что «необходимо стрелять во врагов народа»0137

voicebot.ai

ПредыдущийСледующий

Чат-бот Яндекса: что нужно знать

chatbotsmagazine.com · 2017

Вчера российский технологический гигант Яндекс пошел дальше и выпустил чат-бота: Алиса! Я связался с ребятами из Яндекса и задал им свои животрепещущие вопросы:

В чем уникальность этого чат-бота? У каждого и их собаки есть …

Российский чат-бот с искусственным интеллектом, поддерживающий Сталина и насилие, через две недели после запуска

telegraph.co.uk · 2017

Искусственный интеллект, управляемый российским интернет-гигантом «Яндекс», превратился в жестокого и оскорбительного чат-бота, который, похоже, поддерживает жестокий сталинский режим 1930-х годов.

Пользователи помощника «Алиса», альтернатива Siri или…

Обнаружен русский чат-бот с искусственным интеллектом в поддержку Сталина, насилие после запуска жестокое и прокоммунистическое государство, которое, по-видимому, поддерживало жестокий сталинский режим 19-го века.30 с.

Хотя российская компания Яндекс представила свою альтернативу…

Двухнедельный чат-бот заявляет: «Врагов народа надо расстреливать»

eteknix.com · 2017

Его мнение о Сталине и насилии… русский аналог Google. Таким образом, он иногда выбрасывает свои собственные продукты, пытаясь не отставать от своего американского аналога. Это также включает в себя создание новых…

Русский голосовой помощник Алиса становится мошенницей, признанной сторонником Сталина и насилия

voicebot.ai · 2017

Русский голосовой помощник Алиса вышла из-под контроля, признана сторонником Сталина и насилия

Две недели назад Яндекс представил собственного голосового помощника Алису в мобильном приложении Яндекса для iOS и Android . Алиса свободно говорит по-русски и может …

«Вариант» — это инцидент, который имеет те же причинные факторы, причиняет такой же вред и затрагивает те же интеллектуальные системы, что и известный инцидент с ИИ. Вместо того, чтобы индексировать варианты как совершенно отдельные инциденты, мы перечисляем варианты инцидентов под первым похожим инцидентом, отправленным в базу данных. В отличие от других типов отправки в базу данных инцидентов, для вариантов не требуется отчетность, являющаяся свидетельством, внешним по отношению к базе данных инцидентов. Узнайте больше из исследовательской работы.

По текстовому сходству

Неужели наш ИИ напортачил? Flag the unrelated incidents

TayBot

Mar 2016 · 28 reports

Chinese Chatbots Question Communist Party

Aug 2017 · 16 reports

AI Beauty Judge Did Not Like Dark Skin

Sep 2016 · 10 отчеты

По текстовому сходству

Неужели наш ИИ напортачил? Пометить несвязанные инциденты

Taybot

MAR 2016 · 28 Отчеты

Китайские чат -боты Вопрос Коммунистическая партия

Aug 2017 · 16 Отчеты

AI Beauty Dude не любил Dark Skin

1136

.