Создатель Siri опровергает заблуждения о искусственном интеллекте
Люк Жюлиа имеет длинный список достижений в своем резюме. Среди них – один из основателей Siri, главный технический директор Samsung Electronics, директор в Apple и главный научный сотрудник в Renault.
Недавно он дал интервью AI Business, чтобы опровергнуть широко распространенные убеждения о искусственном интеллекте и объяснил, почему он считает, что полностью автономные транспортные средства - несмотря на заявления Илона Маска - никогда не будут существовать.
Жюлиа является автором бестселлера "Искусственного интеллекта не существует" (на французском и английском языках) и недавней книги "On Va Droit Dans Le Mur?" или "Are We Headed for a Wall?".
AI Business: Мне кажется, что в ваших книгах о искусственном интеллекте прослеживается скептическая тема. Давайте возьмем вашу самую последнюю книгу: мы движемся к катастрофе?
Люк Жюлиа: Название книги говорит о том, что за последние 120 лет мы используем все больше технологий, но также создаем все больше СО2 и, в основном, разрушаем нашу планету. ... Мы должны понимать, что наше использование технологии оказывает огромное влияние. Например, одно селфи потребляет около 180 Ватт, если вы делитесь им. Если каждый день делается миллиард селфи, то в общей сложности мы используем 180 мегаватт только на эго. (Однако), мы должны понимать, что технология также может быть полезна, потенциально, чтобы помочь нам не ввязываться в войну и спасти нашу планету. Такова балансировка.
AI Business: Ваша первая книга имела очень провокационный заголовок: "Искусственный интеллект не существует". Вы изменили свое мнение?
Жюлиа: Взгляд СМИ на ИИ ... четыре или пять лет назад, был таким, что это была волшебная вещь. Что я пытался донести в этой книге, так это сказать, что это не Голливуд. Это не научная фантастика. Это не Робокоп. Это не Она (фильм о человеке, влюбленном в операционную систему).
Они на самом деле не существуют. Это не то, что такое ИИ.
... Существует множество ИИ. ... Это первое, что мы должны понять. Если бы я должен был дать определение одному ИИ, то это был бы набор инструментов. Внутри ИИ есть несколько API, и каждый из них будет очень специализирован в некоторых задачах.
Я всегда сравниваю один ИИ с молотком. Я люблю молоток, это очень хороший инструмент. Он забьет гвоздь в стену. Но тот же самый молоток, я могу использовать, чтобы ударить по вашей голове. И, очевидно, это не хорошо. Это не для этого предназначено. Но я могу использовать его так. Это мое решение.
И это наше решение, как использовать эти API. Мы можем использовать их правильно, а можем использовать неправильно. ... Итак, ИИ - это мощные инструменты, но они являются только инструментами, которые мы создаем. И это наша вина, если они (оказываются как) Терминатор.
AI Business: Сегодняшняя звезда ИИ - ChatGPT. Можете ли вы объяснить нам, как мы должны рассматривать GPT и другие большие языковые модели в реалистичных терминах?
Жюлиа: Одна из проблем с ИИ в целом заключается в том, что мы не должны были называть его так. Слово "интеллект" в искусственном интеллекте не должно было использоваться (потому что это на самом деле не является интеллектом). ... Но хорошая новость о генеративном ИИ заключается в том, что они назвали его (подходящим образом). Это называется генеративным ИИ, а не творческим ИИ. И это очень интересный момент, потому что это означает, что творчество все еще находится на моих плечах: творчество находится в подсказке. ...
Это языковая модель, которая будет интерпретировать то, что я собираюсь сказать. Так что если я скажу: "напишите абзац о том, что Земля плоская", ... он сгенерирует абзац, который скажет, что Земля плоская. Конечно, Земля не плоская. Но он может сгенерировать очень хорошую статью или абзац ... потому что где-то в интернете есть люди, которые верят, что Земля плоская.
Мы должны понимать, что (ChatGPT) состоит из примерно 175 миллиардов параметров. Это огромная языковая модель. Она почти полностью основана на Интернете.
AI Business: Насколько трансформационным является ChatGPT на самом деле? Сейчас цикл гипервозбуждения просто зашкаливает.
Жюлиа: Это сумасшествие - более 100 миллионов человек используют его или использовали его хотя бы один раз. Это очень интересный инструмент, потому что он поможет вам генерировать текст, изображения или что-то еще, что вы не смогли бы создать самостоятельно очень легко.
(Но) очень опасно использовать его в поисковой системе. Microsoft была очень рада внедрению его в Bing. ... Но я думаю, что это ошибка, потому что точность не очень хорошая. И, к сожалению, из-за этой попытки Microsoft, ... Google (будет вынужден сделать то же самое). (У Google была такая возможность) задолго до Open AI, но они фактически не использовали ее в своей поисковой системе, потому что они знали, что это будет катастрофой, если они это сделают. ...
Ученые теперь говорят, что в 36% случаев ChatGPT ошибается, что много. Так что если вы используете его в поисковой системе (и ошибаетесь в этом проценте случаев), это не сработает.
(Однако,) один очень умный способ использования ChatGPT - в (очень узкой задаче, например, в написании формул в) Excel. ... Это очень хороший помощник, но только в очень узком и очень конкретном смысле. ... Но в поисковой системе это будет большой, большой ошибкой, я думаю.
AI Business: ChatGPT также может вносить ошибки в письменный текст. Почему поисковая система хуже?
Жюлиа: (При написании с ChatGPT) вы добавляете все больше и больше своих идей в эссе, и вы фактически создаете. (В поисковых системах) она просто следует за любыми данными, которые поступают откуда угодно, включая ложные факты.
AI Business: Вы работали в топ-менеджменте некоторых из крупнейших компаний в мире: Apple, Samsung, HP и сейчас Renault. Можете ли вы поделиться с нами своим подходом к искусственному интеллекту?
Жюлиа: Мой подход всегда одинаковый. Я очень осторожна, прежде всего, поэтому я не утверждаю, что искусственный интеллект решит все проблемы. В компаниях, таких как Samsung или Renault, (первый вопрос заключается в том) где мы должны использовать искусственный интеллект и почему это будет достаточно выгодно для компании, для людей? Где места, где он может оказать наибольшее положительное влияние, а не отрицательное?
Например, в фабриках у нас уже много лет есть роботы, которые выдают много данных, но данные не используются, потому что мы не очень комфортно с этим. (Но затем берем данные и) создаем модель, которая будет (предсказывать), когда конкретный робот выйдет из строя. Вы будете делать то, что мы называем предиктивным обслуживанием. ... В этом и заключается суть искусственного интеллекта".
AI Business: Говоря о производстве, вы сказали, что полностью автономное вождение, или уровень 5, никогда не существует. Вы до сих пор придерживаетесь этой точки зрения?
Жюлиа: Существуют разные уровни автономного вождения, от 1 до 5. (Пример уровня 1 - это адаптивный круиз-контроль.) ... Я утверждаю, что уровень 5 никогда не будет существовать - это полная автономия. ... Эта часть никогда не существовала; это просто невозможно. Это совершенство, в основном.
Мы не должны лгать о технологии, мы всегда должны говорить, что возможно, а что нет. С тех пор, как в 2018 году Илон Маск заявил, что автономное вождение, уровень 5, уже совсем близко, это была ложь.
(Но другие уровни автономного вождения уже здесь,) помогают водителям лучше тормозить, лучше видеть или делать другие вещи лучше. Это благодаря искусственному интеллекту.
Сегодня на дорогах всего мира гибнет миллион человек ежегодно. Переход на уровень 3 и, возможно, уровень 4 позволит искоренить около 90% из этих аварий. Нельзя говорить, что не будет никаких аварий, потому что это была бы ложь. Аварии всё равно будут. Но мы спасём 900 000 людей ежегодно, что является огромным результатом. ...
Вот почему уровень 5 не может существовать, потому что всегда будет (ситуация), которую автомобиль не сможет обработать. ... Нам потребуется вмешательство человека, потому что будут случаи, которые машины не видели раньше. И им придется получать какую-то помощь. Вот почему уровень 5 не может существовать, потому что уровень 5 предполагает, что он может обработать каждую ситуацию".
AI Business: Waymo и Cruise объявляют о развертывании роботакси в разных городах.
Жюлиа: Они находятся на уровне 4, но могут быть на уровне 5 только в очень контролируемых условиях.
AI Business: Одна из вещей, за которую вас знают, это ваша роль в создании Siri. Можете ли вы вернуть нас к тем захватывающим дням?
Жюлиа: (В середине 1990-х годов в SRI International,) у нас была идея создать этого помощника, который поможет нам навигировать по интернету. У нас (с со-создателем Siri Адамом Чеером) было очень четкое видение, что интернет станет огромным ... и нам понадобится помощь, чтобы навигировать в этом интернете.
Мы создали маленького парня на боковой панели браузера, который помогал нам в основном находить что-то в интернете. И мы могли ему естественно говорить, что мы хотим. Это было до Google. ... Это была в основном наша версия поисковой системы (которая реагирует на) речь, потому что для нас наиболее естественный способ допрашивать и взаимодействовать с этим ассистентом был голос. ... А затем он развивался в течение следующих 14 лет и появился на iPhone.
Я удивлена, насколько хороши сегодня цифровые помощники и насколько большие успехи достигнуты в области NLP с тех пор.
Читать оригинальню статью (eng): aibusiness.com
