Негативные последствия искусственного интеллекта
Разработка машин, способных имитировать человеческое мышление, превосходить его или даже обретать самосознание, является хорошо изученной предпосылкой в научной фантастике. В сегодняшнем технологическом ландшафте появление искусственного интеллекта — ИИ — может стать одним из величайших достижений человечества, но, как предупредил известный физик Стивен Хокинг, «оно может стать и последним, если мы не научимся избегать рисков».
Расширенная автоматизация:кто нажимает на курок?
Сложные технологии продолжают внедряться в современное общество:от цифровых персональных помощников и алгоритмов интеллектуального поиска в Google до экспериментальных беспилотных автомобилей. Искусственный интеллект определяется как компьютер или машина, способная выполнять «логический вывод и вывод» и «принимать решения на основе прошлого опыта или недостаточной или противоречивой информации». Нынешний уровень технологий уже ставит пугающие этические дилеммы, например, должны ли военные дроны или другие роботизированные системы быть спроектированы так, чтобы применять смертоносную силу против целей без непосредственного участия человека. В настоящее время запрограммированные машины могут реагировать с большей скоростью и точностью, чем человек-оператор, но все еще способны совершать грубые ошибки без человеческого предубеждения и интуиции для принятия решений. Эти проблемы обострятся, если в такие системы будет встроен ИИ, привносящий независимые мотивы, которые могут быть совершенно непредсказуемыми или прямо противоречить человеческим намерениям.
Преобразование рынка
Внедрение искусственного интеллекта радикально изменит представление человечества о работе. Начиная с индустриальной эпохи, технологии любого рода неизбежно делают многие рабочие места устаревшими, создавая новые возможности в новых областях. ИИ предлагает будущее, в котором машины будут выполнять задачи вместо нас, позволяя людям проводить досуг. Экономист Джон Мейнард Кейнс зашел так далеко — еще в 1930 году — что предсказал, что к 2030 году рабочая неделя будет составлять 15 часов. кардинальные изменения в том, как мы проводим дни.
ИИ:друг или враг?
Одна из серьезных угроз искусственного интеллекта заключается в том, решит ли он использовать уже расширенные возможности для создания машин с еще большей когнитивной силой. Продвинутые поколения ИИ могли бы действовать так же высоко над людьми, как мы над животными, и даже, вполне возможно, эволюционировать за пределы человеческого понимания. В результате, названном доктором Вернором Винджем «Сингулярность» на симпозиуме VISION-21 Исследовательского центра Льюиса НАСА в 1993 году, правила жизни, какой мы ее знаем, изменятся навсегда, поскольку невозможно предсказать, станет ли ИИ решит сосуществовать или враждебно относиться к человечеству.
Защита от стихийных бедствий
Хокинг подчеркивает, что любое серьезное обсуждение искусственного интеллекта должно учитывать потенциальные угрозы и способы управления ими, и призывает к более критическим институциональным исследованиям, поскольку все больше корпоративных ресурсов направляется на реализацию прорывов в создании искусственного интеллекта. Виндж постулирует, что ИИ можно жестко регулировать с помощью правил, которые эффективно закрепляют благожелательное поведение в автономных роботах, как это было представлено писателем-фантастом Айзеком Азимовым в «Трех законах робототехники». Виндж также предупреждает, что естественная человеческая конкуренция, вероятно, приведет к развитию неограниченных моделей ИИ, поэтому даже таких мер безопасности может быть недостаточно для контроля Сингулярности, если она произойдет.