Илон Маск, Стив Возняк и еще сотни экспертов призвали остановить «гонку ИИ»
29 марта 2023 16:03
EPA
К настоящему моменту более 1100 экспертов в области IT, включая миллиардера Илона Маска, сооснователя Apple Стива Возняка и Тристана Харриса из Центра за гуманные технологии подписали открытое письмо, адресованное всем командам, разрабатывающим искусственный интеллект.
В письме содержится призыв как минимум на полгода приостановить работу над любыми ИИ-системами, более мощными, чем недавно представленная компанией OpenAI GPT-4. Подписавшие документ опасаются, что создание нейросетей, способных составить человеку конкуренцию, может привести к взрывному росту в интернете числа материалов пропагандистского и дезинформирующего толка.
«Должны ли мы разрабатывать нечеловеческие разумы, которые со временем могут стать многочисленнее и умнее нас, сделав нас устаревшими и заменив нас?» – сказано в письме. По мнению подписавших, решения, способные привести человечество к потере контроля над развитием цивилизации, не должны приниматься лидерами технологических компаний, которых никто не избирал демократическим путем.
Письмо предупреждает, что лаборатории ИИ включились в неконтролируемую гонку по созданию все более мощных цифровых разумов, которые никто, даже их создатели, не могут понять, надежно контролировать или предсказать их поведение.
Перерыв в разработке, считают обеспокоенные эксперты, должен быть открытым, контролироваться и включать всех ключевых игроков в этой сфере. Его следует использовать для публичной дискуссии о рисках создания слишком мощного ИИ.
технологии безопасность опасность искусственный интеллект Стив Возняк Илон Маск чат-боты новости
Ранее по теме
МЧС предупредило о непогоде в Москве
ВС РФ нанесли удары по наемникам и лишили ВСУ «Краба»
Захарова: «инвестиции» США развязали Вторую мировую войну и Холокост
Что изменится с 1 июня
Песков назвал предел терпению
ВСУ выпустили 78 снарядов по погранпунктам в Белгородской области
Искусственный интеллект: сооснователь Apple Стив Возняк призывает к регулированию ИИ для защиты от мошенников и безответственного бизнеса
Подпишитесь на нашу рассылку ”Контекст”: она поможет вам разобраться в событиях.
Автор фото, MOD
Сооснователь Apple Стив Возняк в интервью Би-би-си снова предупредил об опасностях, связанных с дальнейшим развитием искусственного интеллекта, и выразил надежду на то, что скоро появятся инструменты регулирования этой отрасли.
По словам Возняка, он, в первую очередь, опасается, что технологии ИИ попадут в руки злоумышленников, которые с их помощью усовершенствуют методы мошенничества и распространения дезинформации.
В беседе с корреспондентом Би-би-си Зое Клейман ветеран индустрии отметил, что такие инструменты, как Chat GPT, дают возможность мошенникам еще более убедительно, чем сейчас, обманывать людей и бизнес.
- Насколько опасен искусственный интеллект? Глав крупнейших IT-фирм вызвали в Белый дом для беседы о рисках
- «Представьте, как его может использовать Путин». Создатель искусственного интеллекта предупредил о его опасности и уволился из Google
«Проблема в том, что поскольку искусственный интеллект так продвинут, он открыт для злоумышленников.
Тех, которые не хотят, чтобы вы узнали, кем они являются на самом деле. Они могут попытаться продать вам что-то ненужное или выудить информацию о вашем счете. Мы наблюдаем подобные нападки постоянно — как на частных лиц, так и на компании, когда миллионы счетов оказываются в интернете, и так далее. Могу предположить, что эта проблема может только ухудшиться по сравнению с тем, что уже происходит сейчас», — сказал бывший коллега Стива Джобса.
В марте Возняк вместе с Илоном Маском и другими ведущими фигурами мира высоких технологий подписал письмо, призывающее на полгода приостановить обучение систем, более мощных чем чат-бот GPT-4, пока не будут разработаны и применены надежные протоколы безопасности.
- Искусственный интеллект как угроза человечеству. Маск и Возняк призвали сделать паузу в развитии технологий ИИ
Термином «искусственный интеллект» называют компьютерные системы, способные выполнять задачи, обычно требующие человеческого интеллекта.
К ним относятся чат-боты, способные понимать вопросы и давать ответы, подобные человеческим, а также системы, способные распознавать объекты на изображениях.
«Искатели наживы обычно выигрывают»
Революцию в области ИИ произвел чат-бот GPT, вышедший в ноябре 2022 года. Он составляет свои ответы таким образом, что у пользователя может создаться иллюзия общения с живым человеком. В марте 2023 года вышла последняя версия бота, GPT-4, с возможностями в несколько раз шире, чем у оригинала.
Этот чат-бот также встроен в Bing — поисковую платформу компании Microsoft, которая недавно вложила в компанию Open AI, разработавшую Chat GPT, 10 млрд долларов.
По словам Возняка, скорость, с которой развиваются технологии в области ИИ, идет на руку искателям наживы, вместо того чтобы помочь человечеству с его проблемами.
«Думаю, что те силы, которые действуют в интересах денег, по сравнению с силами, нацеленными на заботу о людях, любовь, чувства, эмоции… Силы, которые гонятся за деньгами, обычно выигрывают», — отметил Возняк.
Автор фото, Bettmann/Getty Images
Подпись к фото,Стив Джобс (слева) и Стив Возняк (справа) основали Apple в 1976 году. Здесь они с генеральным директором компании Джоном Скалли на мероприятии в 1984 году
При этом сооснователь Apple не верит, что ИИ сможет заменить людей, поскольку искусственному интеллекту не хватает человеческих эмоций.
Но чтобы эти технологии действительно работали во благо человечества, люди должны по-настоящему взять на себя ответственность за все, что они с их помощью создают, считает Возняк.
Вопрос ответственности
Пропустить Подкаст и продолжить чтение.ПодкастЧто это было?Мы быстро, просто и понятно объясняем, что случилось, почему это важно и что будет дальше.
эпизоды
Конец истории Подкаст
Предприниматель убежден, что должен появиться четкий процесс регулирования, который бы побуждал крупные технологические фирмы проявлять больше ответственности.
«Я очень, очень, очень надеюсь, что мы в конце концов договоримся о мерах регулирования, которые по сути сведутся к следующему: если вы сделаете что-то плохое, пересечете черту, то вас накажут, и особенно это касается больших компаний, чувствующих, что им может сойти с рук что угодно».
О проблемах, связанных с безответственным подходом к развитию искуственного интеллекта, заявил и Джеффри Хинтон — ученый, которого называют «крестным отцом ИИ». На прошлой неделе он ушел из Google, чтобы иметь возможность говорить об этом открыто, без оглядки на политику работодателя.
После этого вопрос ограничений в сфере искусственного интеллекта на прошлой неделе подняли регуляторы рынка в США и Великобритании.
Главы ведущих компаний в этой области — Google, Microsoft и Open AI — были также вызваны в Белый дом для обсуждения вопроса ответственности перед пользователями.
Нынешний глава Apple Тим Кук на прошлой неделе заверил инвесторов, что подход его компании к ИИ — продуманный и ответственный.
«Мы считаем ИИ мощной силой, и мы продолжим вплетать его в наши продукты на тщательно продуманной основе», — заявил Кук.
Чтобы продолжать получать новости Би-би-си, подпишитесь на наши каналы:
- Telegram
Подпишитесь на нашу рассылку «Контекст»: она поможет вам разобраться в событиях.
ChatGPT может «делать ужасные ошибки»
Соучредитель Apple Стив Возняк на мероприятии Digital X 2022, организованном Deutsche Telekom, 13 сентября 2022 года в Кельне, Германия.
Андреас Ренц | Гетти Изображений Развлечения | Getty Images
Стив Возняк не полностью доверяет видео с собаками на Facebook, беспилотным автомобилям или ChatGPT.
В среду соучредитель Apple импровизировано появился в программе Squawk Box на CNBC, чтобы рассказать о набирающем популярность чат-боте с искусственным интеллектом. Возняк сказал, что находит ChatGPT «довольно впечатляющим» и «полезным для людей», несмотря на его обычное отвращение к технологиям, которые утверждают, что имитируют реальный мозг.
Но за похвалой последовал скептицизм. «Беда в том, что он приносит нам пользу, но может совершать ужасные ошибки, не зная, что такое человечность», — сказал он.
Возняк указал на беспилотные автомобили как на технологическую разработку с аналогичными проблемами, отметив, что искусственный интеллект в настоящее время не может заменить людей-водителей. «Это похоже на то, что вы ведете машину и знаете, что другие машины могут делать прямо сейчас, потому что вы знаете людей», — сказал он.
По многим параметрам искусственный интеллект ChatGPT впечатляет. Это обучение тому, как выполнять задачи, которые могут занять у людей дни, недели или годы, такие как написание сценариев фильмов, новостных статей или исследовательских работ. Он также может отвечать на вопросы по различным предметам, от планирования вечеринок и воспитания детей до математики.
И это быстро набирает обороты. ChatGPT достиг 100 миллионов пользователей всего за два месяца, что значительно быстрее, чем TikTok, которому потребовалось девять месяцев, чтобы достичь того же рубежа, согласно отчету UBS, рассмотренному Reuters.
Технология ChatGPT, безусловно, может помочь людям — объясняя языки программирования или создавая структуру для вашего резюме, например, — даже если она еще не знает, как передать «человечность» или «эмоции и чувства по поводу предметов», — сказал Возняк.
Но платформа не справляется с творческими проектами и не совсем точна. Когда в прошлом месяце CNBC Make It попросила ChatGPT написать финансовый пост в блоге о сборе налоговых убытков, результаты были неоднозначными — с большим количеством дополнительного контекста, необходимого для фактической реализации совета чат-бота.
Другие сообщают, что ChatGPT может совершать вопиющие ошибки, например не решать простые математические уравнения или логические задачи.
Его конкуренты не намного лучше. В одном из первых рекламных роликов Google для Bard, нового чат-бота компании с искусственным интеллектом, ранее на этой неделе была обнаружена заметная неточность: Бард утверждал, что космический телескоп Джеймса Уэбба «сделал самые первые снимки планеты за пределами нашей Солнечной системы».
В сентябре телескоп Уэбба сделал фотографии таких планет, называемых экзопланетами. Но настоящие первые фотографии экзопланет были сделаны телескопом Европейской южной обсерватории в 2004 году, согласно веб-сайту НАСА.
Alphabet, материнская компания Google, потеряла 100 миллиардов долларов рыночной доли после того, как неточность была замечена и обнародована.
Возняк не единственный технический миллиардер, опасающийся таких последствий.
У ChatGPT и его материнской компании OpenAI есть «потрясающие» веб-сайты, но они неизбежно будут испорчены дезинформацией, поскольку они усваивают больше информации через Интернет, серийный предприниматель и инвестор Марк Кьюбан сказал комику Джону Стюарту «Проблема с Джоном». Стюарт» в декабре.
«Twitter и Facebook в определенной степени демократичны в рамках фильтров, которые [на них] ставит Илон [Маск] или [Марк] Цукерберг, или кто-то еще», — сказал Кьюбан. «Как только эти вещи начнут жить своей собственной жизнью… сама машина будет иметь влияние, и нам будет трудно определить, почему и как машина принимает решения, которые она принимает, и кто управляет машиной».
Получите бесплатно Руководство Уоррена Баффета по инвестированию от CNBC , в котором собраны лучшие советы миллиардера №1 для постоянных инвесторов, что можно и чего нельзя делать, а также три ключевых принципа инвестирования в ясном и простом руководстве.
Зарегистрируйтесь сейчас: Узнайте больше о своих деньгах и карьере с помощью нашего еженедельного информационного бюллетеня
Стив Возняк — Статьи и биографии графия | Предприниматель
Эмпрендорес
Las artes marciales y la construcción de un negocio tienen más en común de lo que piensas.
Брэндон С. Уайт
Лидеры мнений
Боевые искусства и построение бизнеса имеют больше общего, чем вы думаете.
Деловые новости
На данный момент он в основном подставное лицо, но Возняк говорит, что он «единственный человек, который получал зарплату каждую неделю с тех пор, как мы основали компанию».
Устройства
Будьте в курсе за 60 секунд.
Новости и тенденции
Оставайтесь с нами, чтобы получать ежедневные обновления за 60 секунд.
Возняк поставил Apple выше своего эго, что привело к тому, что он приложил руку к разработке некоторых из самых легендарных продуктов в мире.
Устройства
Первая машина мечты Стива Джобса и Стива Возняка только что продана на аукционе Charitybuzz за 815 000 долларов.
Деловые новости
Соучредитель считает, что 50 процентов кажется справедливым.
Деловые новости
Воз сияет, когда вспоминает о корнях своих технических наклонностей.
Деловые новости
Нынешний генеральный директор Apple осудил решение суда, требующее от технологического гиганта помочь властям обыскать iPhone, который использовался одним из злоумышленников, убивших 14 человек в Сан-Бернардино, штат Калифорния, в прошлом году.
Наука и технологии
Соучредитель Apple сделает технологии большей частью собрания.
Наука и технологии
Одна тысяча лет. Это все, что мог оставить третий камень от солнца.
Лидеры мнений
Режиссер Дэнни Бойл, работая над сценарием словесного теннисного матча Аарона Соркина, переносит на киноэкран внутреннюю работу покойного соучредителя Apple.