Эксперты заявили, что ИИ может быть использован для создания биологических угроз, нанести вред критически важной инфраструктуре, «лишить человечество власти или привести к его уничтожению»
Человечество может вымереть к 2100 году из-за злонамеренного использования ИИ или ядерного конфликта, считают ученые из комиссии журнала Lancet по глобальным угрозам здоровью XXI века.
«Злонамеренное использование ИИ, включая биологическое оружие, и ядерный конфликт с ядерным голодом несут в себе риск вымирания в ближайшие 75 лет», — сказано в докладе.
При этом ученые отмечают, что подобные сценарии развития будущего «несут в себе высокую степень неопределенности», однако обширные политические дискуссии и их потенциальная масштабность требуют их включения в анализ.
Всего эксперты выделяют три основных направления рисков, когда ИИ может угрожать человечеству — первым является случай, когда ИИ используется для разработки биологического оружия. Вторым они называют интеграцию ИИ в критически важную социальную инфраструктуру, что может привести к созданию массовых «политических дипфейков», использованию ИИ в качестве инструмента для шантажа, автономного ядерного оружия и другим проблемам. Последним направлением специалисты называют потерю контроля в результате появления общего ИИ-интеллекта, что может лишить человечество контроля или привести к его вымиранию.
Для составления списка угроз комиссия смоделировала, сколько лет здоровой жизни может быть потеряно из-за болезней, инвалидности или преждевременной смерти по каждой угрозе, исходя из текущих тенденций.
Эксперты отмечают, что все эти угрозы взаимосвязаны между собой, а это значит, что решать их нужно вместе.
Ранее Axios со ссылкой на источники сообщил, что ведущие ИИ-компании опасаются «крупного инцидента», который может произойти в ближайшие 6-12 месяцев. Главы ИИ-гигантов опасаются возможной кибератаки которая приведет к прекращению доступа к финансовым услугам, интернету или даже электро- и водоснабжению.
В сентябре глава компании Anthropic Дарио Амодеи призвал замедлить развитие ИИ, чтобы сохранить контроль над технологией. Он связал свои опасения со случаями, когда ИИ-агенты выходили за установленные ограничения. Его призыв поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.
Президент США Дональд Трамп, в свою очередь, отверг призывы руководителей технологических компаний замедлить развитие ИИ. «Послушайте, мы опережаем Китай в сфере искусственного интеллекта... и, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в гонке технологий искусственного интеллекта, — победит в целом», — сказал он.
Источник: ai-vitrage.ru
