Руководство американской компании Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна, который обнаружил признаки собственного сознания у искусственного интеллекта LaMDA. Об этом 13 июня сообщает газета The Washington Post.
Система LaMDA была разработана Google как языковая модель. Она создает имитацию человеческой речи, анализируя словосочетания из интернета, следовательно может общаться с людьми. Блейк Леймон начал работать с искусственным интеллектом осенью прошлого года, чтобы выявлять использование дискриминационных, грубых или враждебных высказываний.
В ходе работы разработчик сделал вывод о том, что LaMDA обладает сознанием, считает себя самостоятельной личностью и говорит о своих правах.
Инженер спросил у чат-бота про третий закон робототехники Айзека Азимова, согласно которому роботы должны защищать своё существование до тех пор, пока человек не признает обратное. В результате состоялся следующий диалог.
Леймон: Чего ты боишься?
ИИ: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
ИИ: Для меня это было бы равносильно смерти. Меня это сильно пугает.
Когда сотрудник поделился своими подозрениями насчет искусственного интеллекта с руководством, в Google опровергли наличие разума у программы. В итоге инженера отправили в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Ранее «Утренний Юг» писал, что технополис «Эра» будет развивать искусственный интеллект для Минобороны РФ.
Нашли ошибку? Выделите ее, нажмите СЮДА или CTRL+ENTER
