Считающийся «крестным отцом» искусственного интеллекта Джеффри Хинтон оставил работу в корпорации Google и предупредил о нарастающей опасности, вызванной развитием технологий в этой области, пишет британская вещательная организация BBC.
В своем сообщении об уходе из технологического гиганта Google Хинтон указал, что сейчас сожалеет о проделанной им работе. Он рассказал BBC о том, что управляемые искусственным интеллектом чат-боты стали довольно пугающими: «Насколько я могу сейчас судить, они не сильно интеллектуальнее нас. Однако, я считаю, что вскоре могут такими стать». Хинтон добавил, что его решение уйти из Google связано также возрастом — в 75 лет пора отправляться на пенсию. Именно его исследования об углубленном обучении и нейронных сетях открыли путь таким современным технологиям искусственного интеллекта, как чат-боты.
Эксперт в области когнитивной психологии и ученый в сфере компьютерных технологий считает, что вскоре чат-боты смогут превзойти возможности человеческого разума.
«Сейчас мы наблюдаем, как технологии типа GPT-4 затмевают человека по объему общих знаний, причем в значительной степени.
Они не могут так хорошо привести аргументацию, но уже начинают осваивать и этот аспект.
Учитывая скорость развития технологий, можно ожидать, что искусственный интеллект усовершенствуется уже совсем скоро, и этого уже пора опасаться», — сказал ученый.
В опубликованной в New York Times статье Хинтон также упоминает, что некоторые лица могут использовать искусственный интеллект в своих корыстных целях. На просьбу рассказать об этом подробнее, ученый сообщил: «Это самый худший из всех возможных сценарий. Представьте, что некто злой, как Путин, решит позволить роботам самостоятельно определять свои подцели».
То есть со временем роботы смогут самостоятельно решить, что одна из их целей — получить больше власти.
Хинтон отметил, что пришел к заключению о том, что интеллект искусственного интеллекта сильно отличается от интеллекта биологических организмов: «Мы — биологические системы, а они — цифровые. Наибольшее различие в том, что у цифровых систем во всем мире есть множество копий одной и той же модели. Все эти копии могут обучаться отдельно и в то же время незамедлительно передавать знания от одной к другой. Как если бы один человек из десятитысячной группы лиц освоил что-то, а все остальные в группе освоят это автоматически. Таким образом чат-боты будут знать гораздо больше, чем любой человек».
Хинтон подчеркнул, что не хочет критиковать Google, и указал, что технологический гигант — очень ответственная компания, о которой можно сказать только хорошее.
Ведущий ученый Google Джефф Дин отметил: «Мы сохраняем обязательство ответственно обращаться с искусственным интеллектом. Мы продолжаем учиться распознавать растущие риски, в то же время совершая важные открытия».
Читайте также: Процесс выборов в Европарламент станет более технологичным