Илон Маск и другие гонки в области искусственного интеллекта
TruthGPT Илона Маска - лишь один аспект более крупной войны мировоззрений. Но хочет ли он теперь исправить проблему, которую помог создать?
Несколько лет назад два миллиардера из мира технологий обсуждали разработку сверхинтеллекта машин и ее последствия для человечества. Они резко разошлись во мнениях о том, как этот интеллект повлияет на общество. Спор произошел в доме в культовом квартале Силиконовой долины в Пало-Альто, штат Калифорния. Этот спор привел к разрыву дружбы между ними и заставил одного из них потратить огромную сумму для противодействия другому.
Этими двумя людьми были Илон Маск - основатель компаний Tesla и SpaceX, а также генеральный директор Twitter - и сооснователь Google Ларри Пейдж.
"Ларри Пейдж и я были близкими друзьями", - сказал Маск в интервью Fox News. "Я говорил с ним поздно ночью о безопасности искусственного интеллекта, и по крайней мере мое восприятие было таким, что Ларри не относился к безопасности искусственного интеллекта достаточно серьезно".
Они обсуждали искусственный общий интеллект (AGI), в котором машины имеют обширную способность действовать, учиться и решать проблемы, как человек, а не просто быть экспертами в узких задачах, таких как игра в шахматы. AGI еще не пришел, но появление генеративного искусственного интеллекта, который позволяет машинам "понимать" человеческий язык, приводит к тому, что уже можно услышать шепот о том, что AGI достижим.
"Я согласен с (Пейджем), что есть большой потенциал для добра, но есть и потенциал для плохого", - сказал Маск. Человечество не должно просто "бурно двигаться вперед и надеяться на лучшее. ... Мы будем обеспечивать безопасность человечества здесь".
Компания-анти-Google
Тогда Google только что приобрела мощный ИИ-центр DeepMind в Лондоне, и Маск понял, что эти две компании занимают 75% всего мирового ИИ-таланта. Кроме того, "у них было (множество) денег и больше компьютеров, чем у кого-либо другого", - сказал он.
Опасность, по его мнению, заключалась в следующем: Google - это "униполярная" и "коммерческая" сила, которая имеет "почти монопольное положение на ИИ-талант и компьютеры, и человек, который ими управляет, не кажется обеспокоенным безопасностью".
Таким образом, Маск предположил, что Google не будет достаточно защищать ИИ, технологическое новшество, которое, по его мнению, может ослабить цивилизацию. Не через робота вроде Терминатора, объяснил он, так как алгоритмы ИИ будут жить в центрах обработки данных, а робот - это всего лишь расширение.
Но ИИ мог бы, например, использовать свои улучшенные способности письма, чтобы влиять на общественное мнение через социальные медиа-посты, и "потенциально манипулировать общественным мнением", сказал Маск. "Как мы бы это узнали?"
Борьба за власть в OpenAI
Маск решил действовать. Это часть его эксцентричной личности: он заявлял ранее, что его главной целью при создании Tesla и SpaceX было сохранение человечества путем борьбы с глобальным потеплением (создание электромобилей, которые могут быть такими же крутыми, как автомобили на бензине, чтобы люди покупали их) и предоставление многоразовых ракет для снижения стоимости космических полетов, чтобы люди могли переехать на Марс, если Земля станет непригодной для жизни.
В 2015 году он объединил ряд талантов в области искусственного интеллекта, а также тогдашнего президента Y Combinator Сэма Альтмана. Среди спонсоров были основатель LinkedIn и венчурный капиталист Рид Хоффман.
Цель Маска заключалась в создании противовеса Google, который является закрытым, коммерческим гигантом. В результате была создана OpenAI, некоммерческая организация с открытым исходным кодом, которую, как он заявил, и назвал. Один из ключевых рекрутов, который был решающим для успеха OpenAI, это нынешний главный ученый Илья Суцкевер, сказал Маск.
Маск пожертвовал $100 миллионов на OpenAI, а его поддерживающие вместе обещали $1 миллиард. Но в начале 2018 года Маск решил, что OpenAI отстает от Google, и предложил сам управлять некоммерческой организацией, сообщило издание Semafor, первым сообщившим об этом. Основатели OpenAI отклонили его предложение, и Маск отошел, а $1 миллиард так и не был получен.
Маск сказал Fox News, что в это время он был "отвлечен" проблемами с Tesla и SpaceX.
Является ли коммерциализация OpenAI вина Маска?
По сообщению издания Semafor, OpenAI не могла позволить себе "астрономические" расходы на обучение моделей ИИ на суперкомпьютерах. Это привело к созданию дочерней компании с ограниченной прибылью в рамках некоммерческого родительского организма. В 2019 году Microsoft вложил в OpenAI $1 миллиард, а по сообщениям в этом году еще $10 миллиардов.
OpenAI является создателем ChatGPT, чрезвычайно популярного чат-бота, который привлек внимание общественности к искусственному интеллекту своей умением писать прозу и поэзию, а также код. Это наиболее известный и наиболее используемый инструмент генеративного искусственного интеллекта от OpenAI, который также создал текст-в-изображение генератор DALL-E.
ChatGPT и его преемник GPT-4 быстро становятся популярными во многих отраслях и обещают ввести новый тип интернета, согласно заявлениям экспертов. Это вызвало конкуренцию со стороны Google, который представил конкурента ChatGPT под названием Bard, а также, по сообщениям, работает над новым поисковым движком Magi, который может отвечать на запросы в разговорной форме.
Сегодня Маск хочет создать противовес OpenAI, которая, как он сказал, стала закрытой коммерческой организацией. Он высказал идею создания TruthGPT, которая будет "максимально искать истину ИИ, который пытается понять природу вселенной".
"Это может быть лучшим путем к безопасности в том смысле, что ИИ, который заботится о понимании вселенной, вряд ли уничтожит людей, потому что мы являемся интересной частью вселенной", - сказал Маск, добавив оговорку: "надеюсь, он так и подумает".
Читать оригинальную статью (eng): aibusiness.com
