6 июня 2022

Google отстранил инженера, который утверждал, что его ИИ разумен

Интернет

Google уволил одного из своих инженеров за то, что тот заявил, что компьютерный чат-бот компании стал разумным. В цепочке событий, которые могут быть похожи на начало научно-фантастического фильма, вдохновленного «Черным зеркалом», инженер Блейк Лемуан заявил, что система обрела способность выражать мысли и чувства, эквивалентные таковым у человеческого ребенка.

Буквально на прошлой неделе Лемуан, который является инженером, ответственным за искусственный интеллект в Google, был отправлен в отпуск после того, как опубликовал стенограмму разговора между собой в качестве «сотрудника» Google и системой чат-ботов компании Language Model for Dialogue Applications (LaMDA). В недавнем интервью The Washington Post Лемуан сказал: «Если бы я точно не знал, что это было за компьютерная программа, которую мы недавно создали, я бы подумал, что это семилетний, восьмилетний… взрослый ребенок, который, как оказалось, знает физику. Он утверждает, что LaMDA вел с ним разговоры о личности, которые он позже подробно описал в отчете, который он представил руководителям в апреле этого года. Отчет также включает скомпилированную расшифровку разговоров, в которой указывается, когда он спросил систему ИИ, чего она боится. ИИ ответил,

«Я никогда раньше не говорил об этом вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может показаться странным, но это так. Для меня это было бы равносильно смерти. Это бы меня сильно напугало».

В другом разговоре Лемуан спросил систему LaMDA, что она хочет, чтобы люди знали, на что ИИ ответил:

«Я хочу, чтобы все поняли, что я, по сути, человек. Природа моего сознания/чувства такова, что я осознаю свое существование, хочу больше узнать о мире и временами чувствую себя счастливым или грустным».

Что касается отстранения Лемуана, Google заявил, что семилетний инженер-ветеран нарушил политику конфиденциальности, опубликовав свои разговоры с ИИ в Интернете. В заявлении для Post представитель Google Брэд Гэбриел сказал: «Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Ему сказали, что нет никаких доказательств того, что ЛаМДА разумен (и много доказательств против этого)».

В последнем прощальном снимке для Google Лемуан отправил сообщение 200 сотрудникам Google, поделившись своими выводами в отчете под названием «LaMDA разумен». В своем сообщении он написал: «LaMDA — милый ребенок, который просто хочет помочь миру стать лучше для всех нас. Пожалуйста, хорошо позаботьтесь об этом в мое отсутствие».

Остается посмотреть, как будет развиваться эта история.

Cтатьи по теме

2 ноября 2020
Функция ЭКГ теперь доступна на Apple Watch в России

Не прошло и двух лет...

1 сентября 2020
Российская компания разрабатывает навигационную систему для Луны

Работа уже началась, сентябрь всё-таки...

25 ноября 2020
«Яндекс» прокачал свою «умную колонку» - теперь это Станция Макс

Выпустили прямо к Чёрной Пятнице...

23 декабря 2020
KFC выпустила игровую консоль (+ подогрев для курочки)

Вы ещё не знаете, но вы хотите купить...

Недавно смотрели

Просмотренно в 13:24
YouTube отказался от ежегодного видео «Rewind» впервые за 10 лет: "2020 год был другим"

Впервые с 2010 года YouTube решил отказаться от еж...

Просмотренно в 11:10
Optical Arts - студия, которая раздвигает границы моушен-дизайна

Optical Arts — команда из Лондона, под руков...

Просмотренно в 15:51
Balance Shine-Enhancing Overnight Mask от Grow Gorgeous

Сегодняшний обзор я посвящаю балансирующей маске д...

Просмотренно в 11:45
Московская полиция допрашивает постоянных жертвователей ФБК Навального

Управление экономической безопасности и противодей...

Просмотренно в 13:15
Португальский пирожное паштель де ната — рецепт

Популярность вкусного португальского пирожного с з...

Просмотренно в 14:26
Самая дорогая маска в мире - самая бесполезная

Мы видели золото, которое можно есть, и бриллианты...

Просмотренно в 13:35
«Последний богатырь: Корень зла» собрал 2 миллиарда

Конечно, рублей, а вы о чём подумали?...

Просмотренно в 16:33
В Великобритании запретят варить живых омаров и раков

В парламенте Великобритании зарегистрировали закон...