Джеффри Хинтон, крестный отец искусственного интеллекта, опасается за судьбу человечества

Джеффри Хинтон, кумир искусственного интеллекта, беспокоится о будущности человечества

Недавно Геоффри Хинтон, крестный отец искусственного интеллекта, сел вместе с 60 Minutes, чтобы обсудить искусственный интеллект и его опасения для будущего человечества. Во время воскресного эпизода Хинтон разобрался в том, что искусственный интеллект может означать для человеческой расы в ближайшие годы; это включало как положительные, так и отрицательные аспекты.

Геоффри Хинтон – компьютерный ученый и когнитивный психолог, известный своей работой с нейронными сетями, который провел большую часть десятилетия, работая с Google. Хотя он ушел в прошлом мае частично из-за своих опасений относительно рисков искусственного интеллекта.

Во время интервью Геоффри Хинтону в 60 Minutes журналист Скотт Пелли прямо спросил, знает ли человечество что делает с искусственным интеллектом. Хинтон в свою очередь ответил в двух частях. “Нет,… я думаю, мы переходим в период, когда впервые у нас есть вещи, более умные, чем мы”.

• «Генеральные директоры в различных отраслях считают, что искусственный интеллект является «приоритетным инвестиционным направлением» на будущее».
• Исследование Data Mesh парадигмальный сдвиг в архитектуре данных
• Внедрение на основе спроса ценообразования на номера отеля в Data Science с использованием MLOps

Геоффри продолжил объяснять, что, по его мнению, большая часть продвинутых систем искусственного интеллекта имеют некоторое понимание и принимают решения на основе своего собственного опыта. Здесь Пелли задает вопрос на миллион долларов: обладают ли системы искусственного интеллекта сознанием.

В своем ответе Хинтон заявил, что в текущей стадии это маловероятно, но “со временем” это произойдет. В связи с этим Хинтон опасается того, что, когда прийдет время, человечество может увидеть себя в качестве второго по интеллекту существа на Земле.

На это интервьюер задает вопрос, как искусственный интеллект может лучше обучаться, если его создали люди. На это Хинтон поправляет его неправильное понимание. “Нет, не так. Мы разработали алгоритм обучения. Это немного похоже на разработку принципа эволюции,… Но когда этот алгоритм обучения взаимодействует с данными, он создает сложные нейронные сети, которые хорошо справляются с задачами. Но мы не понимаем точно, как они это делают”.

Геоффри Хинтон в интервью назвал несколько положительных моментов, которые принесет искусственный интеллект. Большинство из них связано с обработкой структурированной и неструктурированной информации, что в медицинской сфере было бы очень полезно при диагностировании на ранних стадиях.

Конечно же, было также много рисков и негатива, о которых он хотел упомянуть. Во-первых, это работа искусственного интеллекта. В связи с характером нейронных сетей их создали такими, чтобы они были похожими на человеческие мозги. Есть ограничения в полном понимании их работы.

Он сказал в частности: “У нас есть очень неплохое представление о том, что происходит примерно,… Но как только дело доходит до сложных моментов, мы не знаем, что происходит, так же, как мы не знаем, что происходит в вашем мозгу”.

Затем есть риск выхода из-под контроля и работы без контроля человека. “Один из путей, по которому эти системы могут выйти из-под контроля, заключается в написании собственного компьютерного кода для их модификации. И это нечто, о чем нам нужно очень серьезно беспокоиться,”.

Это интервью было обширным, и если вам интересно, вы можете посмотреть его ниже: