«Крестный отец ИИ» покинул Google и предупредил о рисках

Один из пионеров ИИ-отрасли Джеффри Хинтон ушел из компании Google и предупредил мир о потенциальных рисках, связанных с технологией. Об этом пишет The New York Times.

По его словам, угроза наступит раньше, чем предполагалось.

«Я думал, что это будет через 30-50 лет или даже больше.  Очевидно, теперь я так не считаю», — сказал ученый.

Хинтон заявил, что сожалеет о работе всей своей жизни. Он упомянул о краткосрочных рисках, связанных с рынком труда, а также о распространении поддельных фотографий, видео и текстов.

«Теперь я думаю, что создаваемый нами цифровой интеллект сильно отличается от биологического», — сказал ученый в комментарии для CNBC.

Хинтон сослался на мощь языковой модели GPT-4 и чат-бота ChatGPT, который стал вирусным с момента запуска в конце прошлого года.

«Если у меня есть 1000 идентичных цифровых агентов с одинаковым весом, всякий раз, когда один агент узнает что-то, все они сразу же узнают об этом из-за одинакового веса», — сказал Хинтон.

По его словам, биологические агенты не могут этого сделать.

«Таким образом, наборы идентичных цифровых агентов могут получить гораздо больше умений. Вот почему GPT-4 знает намного больше, чем любой человек», — заключил ученый.

По словам Хинтона, он ушел из Google, чтобы свободно говорить об опасностях ИИ.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

«Я ушел, чтобы поговорить об опасностях ИИ, не задумываясь о том, как это влияет на Google. Google поступила очень ответственно», — написал он.

Хинтон, известный как «Крестный отец ИИ», получил докторскую степень в области искусственного интеллекта 45 лет назад. Он остается одним из самых уважаемых экспертов в этой области.

Последнее десятилетие Хинтон работал на техгиганта неполный рабочий день. В 2022 году его назначили вице-президентом и научным сотрудником в Google Brain.

Глава подразделения Джефф Дин выразил сожаление в связи с уходом Хинтона.

«Мне будет его не хватать, и я желаю ему всего наилучшего!», — заявил он.

Напомним, в апреле Google объединила подразделения Brain и DeepMind в одну команду.

В июле 2022 года техгигант уволил инженера Блейка Лемуана, обнаружившего «разум» у языковой модели LaMDA.

В июле 2021 года сооснователь ИИ-подразделения Google Сами Бенжио подал в отставку.