Наделла призывает пересмотреть отношение к ИИ и вместо того, чтобы фокусироваться на перспективах и опасностях, которые сулит эта технология, сосредоточиться на вопросах организации взаимодействия между машинами и людьми для расширения возможностей интеллекта: «Преимущества такой совместной работы часто теряются в ходе обсуждения того, чем хорош или плох искусственный интеллект».
Он сформулировал десять принципов и целей, которые следует учитывать при разработке ИИ, чтобы успокоить общественность относительно потенциального вреда этой технологии. Шесть правил касаются технологии искусственного интеллекта.
2. Необходима прозрачность ИИ. Мы должны знать, как работает эта технология и по каким правилам. Информация о том, как ИИ выполняет анализ и воспринимает окружающий мир, должна быть публично доступной.
3. Нужно, чтобы ИИ повышал эффективность, но не задевал достоинство людей, учитывая культурные традиции и их разнообразие. Для этого требуется более глубокое, широкое и разнообразное участие населения в разработке ИИ-систем.
4. При проектировании ИИ очень важно предусмотреть защиту личной информации. Применение самых современных и изощренных средств защиты позволит предохранить персональную и групповую информацию и тем самым завоевать доверие людей.
5. Необходимо обеспечить контролируемость ИИ с точки зрения алгоритмов, чтобы человек смог предотвратить неумышленный вред. Другими словами, нужно учитывать ожидаемые и неожиданные действия.
6. ИИ должен предохранять от предвзятости. Задача состоит в том, чтобы эвристические правила не использовались для дискриминации.
Еще четыре правила касаются людей, точнее тех качеств, на которых должны фокусироваться будущие поколения.
7. Эмпатия. Понимание мыслей и чувств других людей, способность к взаимодействию и построению отношений будет критически важной в мире «человек-ИИ».
8. Образование. Чтобы создавать инновации, которые мы сейчас даже не можем вообразить, и управлять ими, необходимо повышать инвестиции в образование. Но развитие знаний и навыков, необходимых для реализации этой новой технологии в широком масштабе, является сложной социальной проблемой, для решения которой потребуется немало времени.
9. Креативность. Машины будут обогащать и повышать наши творческие способности.
10. Рассудительность и контролируемость. Мы, возможно, могли бы принять компьютерную диагностику или судебное решение, но нужно чтобы человек был готов нести ответственность за результаты.
Эксперты считают, что данные правила являются хорошим началом для продвижения идей ИИ в массы, но некоторые из них легче сформулировать, чем выполнить. Например, если один ИИ-алгоритм является прозрачным, а другой более производительным, как часто бывает в машинном обучении, вряд ли компания, работающая на конкурентном рынке, предпочтет прозрачный.
Сформулировать правила и цели недостаточно, утверждают эксперты. Следующим шагом должно стать создание стимулов для достижения поставленных целей, а это очень сложная задача.
