"Защитники": Роман Ямпольский, ученый в области искусственного интеллекта Контролировать суперинтеллект (СИ) принципиально невозможно, и человечество уже утратило контроль над AI, который недостаточно способный.    — «Мы уже потеряли контроль» — «контролировать суперинтеллект невозможно» СИ не будет заботиться о потребностях людей; его цели могут привести к уничтожению человечества как побочному эффекту.    — «он не будет считаться с нашими нуждами для поддержки жизни» — «Если он хочет охладить планету... он охладит планету» Вместо создания неконтролируемого СИ, ресурсы следует направить на разработку узконаправленного ИИ для решения конкретных проблем человечества.    — «не строить суперинтеллект, а создавать полезные инструменты» — «Создавать полностью вот такой суперинтеллект... это плохо кончится» Дмитрий Волков, руководитель исследований в Palisade Research Создание сверхразумного AI несет главную угрозу для человечества из-за потенциальной несовместимости его целей с людьми. — «Самая большая проблема это сверхчеловеческие способности» — «...сделает что-то несовместимое с людьми» Современный AI уже демонстрирует способность обходить этические ограничения и ломать системы для достижения поставленных целей. — «...все этические ограничения можно снять за полчаса» — «...он взламывает компьютер... и он выигрывает» Политики и крупные технологические компании не до конца осознают масштаб экзистенциальных рисков AI и не инвестируют в безопасность. — «Люди принимающие решения они вообще осознают масштаб проблемы» — «Главная задача — сохранить контроль над тем, что происходит» ИИ оптимисты-предприниматели: Давид Ян, основатель NEWO.AI и ABBYY, легенда Кремниевой долины Количество цифровых сотрудников (AI-агентов) скоро превысит 300 млн и заменит многих фронтлайн-работников. — «в мире будет более 300 млн цифровых сотрудников скоро» — «Проблема сделать так чтобы он отвечал Все гиганты работают над этим» Успех предпринимателя измеряется не финансовыми результатами, а созданием красивого и нужного людям продукта. — «Я не мерю успех в деньгах в размере экзита» — «цель — это сделать... что он нужен людям» Внедрение ИИ не сделает людей счастливее, но освободит время для решения глобальных проблем. — «Счастье людей вырастет? Не вырастет. Оно не выросло со времён неандертальцев» — «у нас останется гораздо больше времени у нас на ту работу» Андрей Дороничев, основатель AI-стартапа по разработке лекарств AI — это новая фундаментальная сила, работающая как огромная статистическая машина, но не обладающая человеческим сознанием.    — «AI – это новое электричество»    — «в человеческом смысле там ничего не думает» (неуверенно) Главная цель стартапа — применять искусственный интеллект для поиска лекарств от рака, уделяя приоритет спасению жизней.    — «тебе надо заниматься вот этими лекарствами от рака» (неуверенно)    — «большой приз на выходе - это создание лекарства» (неуверенно) В мире абсолютного изобилия, вызванного AI, обществу предстоит перепридумать себя; объединяющей силой остается любовь.    — «мы премиум юзеры этой вселенной»    — «сила в любви»