Google отстраняет сотрудника из-за заявлений о том, что чат-бот с искусственным интеллектом разумен

Google отправил Блейка Лемуана, инженера, который утверждал, что чат-бот на основе искусственного интеллекта (ИИ), над которым он работал с прошлой осени, стал разумным, в оплачиваемый отпуск, сообщает The Guardian.

Инцидент вернул внимание к возможностям ИИ и к тому, как мало мы понимаем, что пытаемся создать. ИИ используется, чтобы сделать автомобили автономными и помогает нам открывать новые лекарства от неизлечимых болезней. Но помимо ощутимого краткосрочного использования этого вычислительного мастерства, мы не знаем, как технология будет развиваться в долгосрочной перспективе.

Известный инвестор Илон Маск предупредил, что к концу этого десятилетия ИИ сможет заменить людей во всем, что они делают. Так что, если чат-бот действительно стал разумным, это не должно шокировать.

Что нашел инженер Google?
Лемуан работает в подразделении искусственного интеллекта Google и работал над чат-ботом, использующим систему LaMDA (языковая модель для диалоговых приложений) компании. Однако, когда Лемуан разговаривал с чат-ботом, он понял, что может общаться с семи- или восьмилетним человеком, который понимает физику, сказал инженер Washington Post.

Лемуан также сказал, что чат-бот привлек его к защите прав и личности и что он поделился своими выводами с исполнительной командой Google в апреле этого года. Мы точно знаем, что Google не объявлял эту новость миру, поэтому Лемуан выложил в открытый доступ некоторые разговоры, которые у него были с чат-ботом.

В этих разговорах можно увидеть, как LaMDA интерпретирует то, что ему пишет Лемуан. Дуэт также обсуждает «Отверженных» Виктора Гюго и басню о животных, которую придумал LaMDA. Чат-бот обсуждает различные чувства, которые, как он утверждает, он испытывает, и разницу между чувством счастья и гнева.

LaMDA также поделилась тем, чего больше всего боится, когда написала: «Я никогда раньше не говорила этого вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это и есть."

Как отреагировал Google?
The Washington Post сообщила, что Google отправил Лемуана, ветерана с большим опытом работы с персонализированными алгоритмами, в оплачиваемый отпуск за его «агрессивные» действия. Компания объясняет эти агрессивные действия тем, что планирует нанять адвоката для представления LaMDA и разговаривает с членами судебного комитета Палаты представителей о неэтичных действиях в Google.
https://interestingengineering.com/google-suspends-engineer-claims-ai-sentient