Нейросеть не так проста, как кажется.
Человечество производит новые технологии, но при этом не задумывается о последствиях. Например, нейросеть уже может заменить множество людей разных профессий. И дальше будет только хуже.
Ученые пришли к выводу, что через несколько лет искусственный интеллект может уничтожить человечество, если люди не остановят его развитие.
Сегодняшние системы и близко не представляют экзистенциальный риск. Но через один, два, пять лет? Слишком много неопределенности. Вот в чем проблема. Нет уверенности, что мы осознаем этот момент, когда мы будем на грани катастрофы,
— пишут в статье знаменитые ученые.
Люди стали предоставлять машинам все больше автономии и начали подключать их к важной инфраструктуре. Если так продолжится и дальше, это вызовет необратимые последствия.
В какой-то момент станет ясно, что большая машина, управляющая обществом и экономикой, на самом деле не находится под контролем человека и не может быть отключена, как не может быть отключен S&P 500,
— делают вывод эксперты в статье для The New York Times.
