Как 2 программы испугали своих разработчиков. Татьяна Черниговская
Общаясь с разработчиками Искусственного интеллекта, Татьяна Владимировна столкнулась с очень интересной историей, которую ей рассказали специалисты по ИИ.
2 программы придумали свой собственный язык общения между собой, который был непонятен самим создателям этих программ.
Эти программы начали очень быстро обучаться и развиваться, пользуясь этим ими же созданным языком.
Испушавшись непредсказуемых последствий разработчики решили их отключить.
Вывод таков: пока у нас есть рубильник (возможность выключить программу или ИИ), то мы можем их/его контролировать, но если его не будет, кто знает к чему это всё приведёт.
P.S. Сразу вспоминается разговор Нео и одного из старейшин Зеона, когда они были в машинном цеху и вели разговор о том, что машины полезны, но без соответствующего контроля за ними может случиться нечто ужасное.
Татьяна Владимировна Черниговская – российский учёный в области нейронауки и психолингвистики, а также теории сознания.
Доктор биологических наук, доктор филологических наук, член-корреспондент РАО.
9 января 2010 года указом Президента РФ Татьяне Владимировне Черниговской было присвоено почётное звание «Заслуженный деятель науки РФ».
Заслуженный деятель высшего образования, директор Института когнитивных исследований СПбГУ, заведующая лабораторией когнитивных исследований и кафедрой проблем конвергенции естественных и гуманитарных наук СПбГУ,
профессор.
Это видео является частью лекции “ХХI век как испытание человеческой цивилизации”, прочитанной Т.В.Черниговской в лектории Манежа (Спб) 23 сентября 2021г.
Все права на видео принадлежат их правообладателям.
Видео взято из открытых источников.
Оригинальное видео взято с канала Манежа: https://www.youtube.com/channel/UCZ40X3K9MNgNT6kKZXMiQRg
#татьяначерниговская #черниговская #татьяначерниговскаялекции #черниговскаяманеж2021 #какдвепрограммыиспугалисвоихразработчиков #программыиспугалисвоихразработчиков #программыиспугалиразработчиковчерниговская
source
