Google 7 принципов в работе с искусственным интеллектом
GOOGLE Статьи Терминариум

Google: объявил 7 принципов в работе с искусственным интеллектом

Глава Google Сундар Пичаи назвал семь принципов которыми руководствуется компания при работе с искусственным интеллектом (ИИ). В качестве предисловия Сундар затронул какую роль играет ИИ в нашей жизни на сегодня:

Пара старшеклассников строит датчики с ИИ, чтобы прогнозировать риск возникновения пожаров. Фермеры используют его для мониторинга здоровья своих стад. Врачи начинают использовать ИИ, чтобы помочь диагностировать рак и предотвратить слепоту. Эти очевидные преимущества — это то, почему Google вкладывает значительные средства в исследования и разработки в области ИИ и делает технологии ИИ широко доступными для других с помощью наших инструментов и открытого исходного кода.

Из-за того, что на сегодня искусственный интеллект активно начинает использоваться для различных задач в различных сферах Google признаёт, что такая мощная технология вызывает большие вопросы о её использовании. «Как разрабатывается искусственный интеллект и как он будет использоваться — определит значительное влияние на всё общество на многие годы вперёд». Google признаёт, что это очень динамичная область и обещает адаптировать их подход, когда у них будет больше опыта.

Являясь лидером в области ИИ, мы чувствуем большую ответственность за это. Поэтому сегодня мы объявляем семь принципов, которые будут направлять нашу работу в будущем. Это не теоретические концепции — они являются конкретными стандартами, которые будут активно управлять нашим исследованием, разработкой продукта и будут влиять на наши бизнес-решения.

Принципы и цели применения ИИ

Итак, 7 принципов применения ИИ:

1. Быть социально полезным.

Вскоре достижения в области ИИ будут иметь трансформирующие воздействия в самых разных областях, включая здравоохранение, безопасность, энергетику, транспорт, производство и развлечения. При разработке ИИ Google учитывает и будет учитывать широкий спектр социально-экономических факторов на базе которого компания будет осуществлять работу в той области, где общая выгода общества превышает прогнозируемые риски и недостатки.

2. Избегать возникновения или усиления предвзятого отношения.

Алгоритмы ИИ могут отображать, усиливать или уменьшать несправедливое отношение к людям. Google признаёт, что отличать справедливое от несправедливого отношения не просто. Поэтому Google будет стремиться избегать предвзятого отношения на людей, особенно по следующим характеристикам: раса, этническая принадлежность, пол, национальность, доход, сексуальная ориентация, способность, а также политические или религиозные убеждения.

3. Быть проверенными на безопасность.

Компания продолжит активно разрабатывать методы обеспечения безопасности для того чтобы избежать непредвиденных ситуаций, которые ведут к риску или вреду. Разработчики будут стараться проектировать ИИ со всей осторожностью учитывая все передовые методы безопасности в данной области.

4. Быть контролируемыми людьми.

Google заверяет, что они разрабатывают системы ИИ которые дают возможность для обратной связи, объяснений, апелляций и подачи жалоб. Такие системы и технологии ИИ будут подлежать соответствующему человеческому руководству и контролю.

5. Беречь конфиденциальность.

Будут использоваться принципы конфиденциальности при разработке и использовании технологий ИИ.

6. Поддерживать высокие стандарты науки.

По словам Google: «Все технологические инновации основаны на научных методах, открытых исследованиях, интеллектуальной строгости, целостности и сотрудничестве».
Искусственный интеллект может разблокировать новые сферы научных исследований и знаний в таких важных областях, как: биология, химия, медицина и экология. Google будет работать с целым рядом заинтересованных сторон для содействия по развитию в этой области, опираясь на научно строгие и многодисциплинарные подходы. Компания при этом обещает делиться полученными знаниями публикуя учебные материалы, передовые методы и исследования, которые позволят большему числу людей разрабатывать полезные приложения для ИИ.

7. Существовать для использования в соответствии с следующими принципами.

Сундар выделил следующие факторы, которые они будут оценивать по мере разработки технологий ИИ:

  • Первичная цель и использование: мы оцениваем насколько тесно какое-либо решение с ИИ связано или может быть адаптировано к вредоносному использованию

  • Природа и уникальность: предоставляем ли мы доступную технологию, которая является уникальной или более общедоступной

  • Масштаб: будет ли использование этой технологии иметь значительное влияние

  • Участие Google: предоставляем ли мы инструменты общего назначения, интегрируем инструменты для клиентов или разрабатываем индивидуальные решения

Google - 7 принципов искусственного интеллекта

Области в которых Google не будет заниматься разработкой ИИ

Компания Google не будет работать над технологией ИИ в следующих областях:

  • Технологии, которые вызывают или могут нанести общий ущерб. Google будет работать с технологиями имеющими риск вреда лишь в тех случаях, когда выгоды от их применения существенно перевешивают риски и будут включать соответствующие ограничения безопасности, что соответствует 1 и 3 принципам.
  • Оружие или другие технологии, основная цель или реализация которых заключается в том, чтобы причинить или непосредственно способствовать нанесению вреда людям.
  • Технологии для сбора или использования информации для наблюдения, тем самым нарушая международно признанные нормы.
  • Технологии нарушающие принципы международного права и прав человека.

Google объясняет своё сотрудничество с военными структурами следующим образом:

Хотя мы и не разрабатываем ИИ для использования его в оружии, мы продолжим нашу работу с правительствами и военными во многих других областях. К ним относятся кибербезопасность, военная подготовка и вербовка, здравоохранение ветеранов, а также поиск и спасение. Эти совместные области, мы будем активно разрабатывать дополнительные возможности для обеспечения безопасности служебных и гражданских лиц.

В заключение CEO Google Сундар Пичаи подчеркнул:

«Мы считаем, что эти принципы являются правильным фундаментом и основой для нашей компании и будущего развития ИИ. Такой подход согласуется с нашими ценностями, изложенными в нашем первоначальном письме основателей еще в 2004 году. Там мы четко определили наше намерение принять долгосрочную перспективу, даже если это означает принятие краткосрочных компромиссов. Тогда мы это сказали, и теперь мы это верим.»
© Сундар Пичаи

Источник: Google Blog

По теме: Google Assistant будет сам звонить и делать заказы.

Следите за нами в Telegram

Отправить ответ

avatar
  Подписаться  
На