Эксперт Всемирного экономического форума Юваль Харари на вопрос, насколько человечество должно быть обеспокоено угрозой того, что власть может быть захвачена искусственным интеллектом, ответил, что такой сценарий является вполне реалистичным.Харари подчеркнул, что искусственный интеллект представляет собой первый инструмент, который способен самостоятельно принимать решения. Тогда как все предыдущие изобретения человечества были направлены на расширение возможностей, ИИ является первой технологией, которая может самостоятельно принимать решения, в том числе касающиеся собственного использования и развития.Тогда как ядерные бомбы не способны создавать лучшие ядерные бомбы, ИИ может создать лучший ИИ. Кроме того, ИИ может принимать решения, касающиеся людей. Например, все чаще, когда граждане обращаются в банк для получения кредита или подают заявление о приеме на работу, эти важные для человека решения принимаются искусственным интеллектом.По мнению эксперта, в настоящее время ИИ делает свои первые крошечные шаги. С момента создания первого ИИ прошло около 10 лет. Человечеству необходимо в первую очередь понять все возможности ИИ и замедлить его внедрение, чтобы убедиться, что его использование является разумным и безопасным. Подобно тому, как фармацевтические компании не могут просто выпустить новый лекарственный препарат на рынок, предварительно не проведя ряд тщательнейших проверок безопасности, аналогично следует поступить с внедрением искусственного интеллекта.
