Профессор из Торонто, крестный отец ИИ

https://  nationalpost.  com/news/canada/  geoffrey-hinton-godfather-of-a-i-quits-google

Профессор из Торонто, названный крестным отцом искусственного интеллекта, уходит из Google, чтобы предупредить мир об опасных технологиях

 автор статьи Адриан Хамфрис

 May 02, 2023
© National Post

Джеффри Хинтон уволился с работы в Google, как он говорит, «чтобы я мог говорить об опасностях искусственного интеллекта».

Когда Джеффри Хинтон был профессором информатики в Университете Торонто, он произвел революцию в том, как машины взаимодействуют с людьми и миром. Его работа была настолько новаторской, что его пригласили в Google, и впоследствии назвали крестным отцом искусственного интеллекта.

ИИ ворвался в общественное пространство, развиваясь скачками, однако теперь автор напуган своим ребенком.

По его словам, он уволился с работы в Google, «чтобы я мог говорить об опасностях искусственного интеллекта».

Замечателен переход Хинтона от руководства сторонниками ИИ к человеку, сигнализирующему об опасностях быстрых темпов развития ИИ, опасностях выхода за пределы научного сообщества, и хронически предсказывающему гибель, трагедию.

Согласно интервью The New York Times, 75-летний Хинтон начинает сожалеть о работе всей своей жизни.

«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон репортеру Кейду Метцу из дома Хинтона в Торонто.

«Посмотрите, как это было пять лет назад и как сейчас», — цитирует Хинтон высказывание о темпах развития ИИ. «Возьмите разницу и распространите ее вперед. Это страшно.»

Сейчас дело не столько в машинах, сколько в людях, которые ими пользуются.

«Трудно понять, как вы можете помешать плохим актерам использовать его в плохих целях».

По его словам, непосредственная опасность заключается в способности ИИ создавать убедительные ложные фотографии, видео и аудио, показывая вещи, которые не происходили, и не были сделаны людьми, которые видели или слышали этот сгенерированный контент.

По его словам, большинство людей «больше не смогут быть уверенны, что некая информация является правдой».

Он сказал, что А.И. также может разрушить рабочие места, заменив рабочих-людей.

Затем, предупреждает он, может произойти что-то еще более пугающее. Системы ИИ, потребляющие так много данных и приходящие к неожиданным выводам, которым позволят пользоваться способностью ИИ изменять собственный компьютерный код, такой шаг может привести к «кошмарному сценарию», сказал он Би-би-си.

«Прямо сейчас системы ИИ не умнее нас, насколько я могу судить. Но я думаю, что скоро это вполне возможно», — сказал он.

«Мы видим, что такие программы, как GPT-4, затмевают человека по количеству общих знаний, которые у него есть, и затмевают их на долгое время. С точки зрения рассуждений он не так хорош, но он уже делает простые рассуждения».

Его простые объяснения в интервью показывают, почему он был хорошим университетским профессором. Он разъясняет преимущество машин над людьми, когда дело доходит до обучения.

«Я пришел к выводу, что тот тип интеллекта, который мы развиваем, сильно отличается от того интеллекта, который у нас есть», — сказал он Би-би-си. «Мы биологические системы, а это цифровые системы. И большая разница в том, что с цифровыми системами у вас есть много копий одного и того же набора весов, одной и той же модели мира. И все эти копии могутне только учиться по отдельности, но и мгновенно делиться своими знаниями.

«Это как если бы у вас было 10 000 человек, и всякий раз, когда один человек чему-то учился, все автоматически это знали. И именно поэтому эти чат-боты могут знать гораздо больше, чем любой человек».

Хинтон, родившийся в Великобритании, работал преподавателем в Соединенных Штатах, после приехал в Канаду в 1987 году, чтобы работать профессором компьютерных наук в Университете Торонто, а позже стал гражданином Канады.

Его исследования здесь были трансформационными.

Его исследовательская группа в Торонто совершила крупный прорыв в области глубокого обучения, который произвел революцию в распознавании речи и классификации объектов.

Идеи и исследования в области глубоких нейронных сетей, появившиеся в стартапе, который он создал вместе с двумя своими аспирантами, были настолько захватывающими, что Google не просто наняла его, но и купила всю компанию в 2012 году за 44 миллиона долларов.

Затем Хинтон делил свое время между университетом и Google, а в 2016 году он был назначен вице-президентом Google и научным сотрудником, руководившим лабораторией искусственного интеллекта Google в Торонто. Он ушел из университета и сохранил статус почетного профессора.

В 2018 году он был удостоен звания кавалера Ордена Канады за то, что был «движущей силой разработки новой формы искусственного интеллекта».

Его новаторская и влиятельная работа в области ИИ была удостоена чести в 2019 году, когда он выиграл премию A.M. Тьюринга, получившая название Нобелевской премии в области компьютерных наук, вместе с двумя сотрудниками, Яном ЛеКуном из Facebook и Нью-Йоркского университета, и Йошуа Бенжио из Монреальского университета. 

Хинтон пожаловался в Твиттере, что статья в The New York Times создала впечатление, что он нападает на своего бывшего работодателя, Google.

«Кейд Мец подразумевает, что я ушел из Google, чтобы критиковать Google. На самом деле, я ушел, чтобы говорить об опасностях ИИ, не задумываясь о том, как это влияет на Google. Google поступил очень ответственно», — написал он в Twitter.

Главный научный сотрудник Google Джефф Дин подтвердил уход Хинтона, высоко оценив «фундаментальные прорывы» Хинтона в области искусственного интеллекта. и его вклад в Google.

В своем заявлении Дин сказал, что Google привержен ответственному подходу к искусственному интеллекту, его развитию, и постоянно учится понимать возникающие риски.





Toronto prof called Godfather of A.I. quits Google to warn world about the dangerous technology
Story by Adrian Humphreys • 2/05 2023

Geoffrey Hinton has quit his job at Google, he said, “so that I could talk about the dangers of A.I.”
© Provided by National Post
When he was a computer science professor at the University of Toronto, Geoffrey Hinton revolutionized the way machines interact with people and the world. His work was so innovative, he was scooped up by Google and dubbed the Godfather of Artificial Intelligence.

As A.I. explodes into the public realm with leaping enhancements, however, he is now frightened by his child.


He has quit his job at Google, he said, “so that I could talk about the dangers of A.I.”

Hinton’s remarkable shift from leading A.I. proponent to A.I. klaxon pushes concerns over the rapid pace of its development from the confines of the scientific community and chronic doomsayers.

Hinton, 75, is starting to regret his life’s work, according to a feature interview in The New York Times .

“I console myself with the normal excuse: If I hadn’t done it, somebody else would have,” Hinton told reporter Cade Metz from Hinton’s Toronto home.

“Look at how it was five years ago and how it is now,” Hinton is quoted saying about the pace of development of A.I. “Take the difference and propagate it forwards. That’s scary.”

Right now it is not so much the machines, but the people using them.

“It is hard to see how you can prevent the bad actors from using it for bad things.”

The immediate danger, he said, was A.I.’s ability to create convincing false photos, videos and audio — showing things that didn’t happen or weren’t done by the people seen or heard in the generated content.

Most people, he said, will “not be able to know what is true anymore.”

He said A.I. can also destroy job sectors by replacing human workers.

Then, he warns, could come something even more frightening.

With A.I. systems consuming so much data and reaching some unexpected conclusions, mixed with the ability of an A.I. machine to write its own computer code, it can lead to a “nightmare scenario,” he told the BBC .

“Right now, they’re not more intelligent than us, as far as I can tell. But I think they soon may be,” he said.

“What we’re seeing is things like GPT-4 eclipses a person in the amount of general knowledge it has and it eclipses them by a long way. In terms of reasoning, it’s not as good, but it does already do simple reasoning.”

His simple explanations in interviews show why he was a good university professor. He spells out an advantage machines have over humans when it comes to learning.

“I’ve come to the conclusion that the kind of intelligence we’re developing is very different from the intelligence we have,” he said to the BBC.

“We’re biological systems and these are digital systems. And the big difference is that with digital systems, you have many copies of the same set of weights, the same model of the world. And all these copies can learn separately but share their knowledge instantly.

“So it’s as if you had 10,000 people and whenever one person learnt something, everybody automatically knew it. And that’s how these chatbots can know so much more than any one person.”

Hinton, born in Britain, came to Canada in 1987 after holding teaching positions in the United States, to work as a computer science professor at the University of Toronto, and later became a Canadian citizen.

His research here was transformational.

His Toronto research group made major breakthroughs in deep learning that revolutionized speech recognition and object classification.

The ideas and research on deep neural networks emerging from the startup company he created with two of his graduate students was so exciting Google didn’t just recruit him, they bought the whole company in 2012 for $44 million.

Hinton then divided his time between the university and Google, and in 2016 he was named a Google vice president and engineering fellow running Google’s artificial intelligence lab in Toronto. He retired from teaching at the university and retained a professor emeritus status.

He was named a Companion of the Order of Canada in 2018 for being “the driving force behind the development of a new form of artificial intelligence.”

His pioneering and influential work in A.I. was honoured in 2019 when he won the A.M. Turing Award, dubbed the Nobel Prize of computing, alongside two collaborators, Yann LeCun, of Facebook and New York University, and Yoshua Bengio, of Universit; de Montr;al.


Hinton complained on Twitter that the piece in The New York Times made it seem he was attacking his former employer, Google.

“Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly,” he said in a tweet.


Google’s chief scientist, Jeff Dean, confirmed Hinton’s departure, praising Hinton’s “foundational breakthroughs” in A.I. and his contributions to Google.

Dean said in his statement that Google is committed to responsible A.I. development and is continually learning to understand emerging risks.