Физик-теоретик: человечьей цивилизации угрожает искусственный интеллект
Если машина осознает себя, это чревато крайне несимпатичными последствиями
фото: pixabay.com
По словам физика, специалисты нередко размышляют о том, что «неглупые» машины могут оставить множество людей без работы или быть использованы для создания новоиспеченных видов оружия, однако ещё более опасные последствия до сих пор почти не рассматривались всерьёз.
Выговор идёт о вероятности, что на определённом этапе развития самообучающийся ненастоящий суперинтеллект может обрести своего рода сознание. Машина может ощутить себя личностью и на новоиспеченном уровне осознать собственный субъективный опыт, то есть, несмотря на принципиально другую «структуру», станет во многих отношениях подобна человеку, ратифицирует Тегмарк, не склонный считать подобный сценарий в полной мере фантастическим.
В числе наиболее популярными широкой аудитории людей, всерьёз рассматривающих искусственный интеллект в качестве потенциальной угрозы человечеству, можно наименовать другого физика-теоретика, Стивена Хокинга, а также предпринимателя Илона Личина. Последний недавно заявил, что стремление различных стран сделаться лидерами в сфере искусственного интеллекта может привести к Третьей всемирный войне. До этого миллиардер вступил в дискуссию с основателем сети Facebook Марком Цукербергом, не согласившимся с тезисом, что на разработку ненастоящего интеллекта следует накладывать ограничения. Оба участника спора сочли позицию оппонента последствием недостаточно полного понимания ситуации.
К слову, Маск, Хокинг и ряд иных публичных лиц оставили к недавно вышедшей книге Макса Тегмарка позитивные отзывы.
Лучшее в «МК» — в короткой вечерней рассылке: подпишитесь на наш канал в Telegram.
Прочитайте по теме ещё:
Прошли точку невозврата: Хокинг рассказал, как искусственный интеллект уничтожит человечество 
Найден способ обучать искусственный интеллект в десять раз эффективнее 
Искусственный интеллект Facebook вышел из-под контроля, придумав собственный язык 
Астрофизик предрек солнечную супервспышку, угрожающую человеческой цивилизации 
