Google назвал свои принципы в отношении искусственного интеллекта

Глава Google Сундар Пичаи (Sundar Pichai) назвал семь принципов, которыми компания руководствуется в работе с искусственным интеллектом. При этом он отметил, что это «не теоретические понятия, а конкретные стандарты», активно управляющие исследованиями и разработками в этой области, и влияющие на бизнес-решения.

Согласно Google, AI-приложения должны:

1. Быть социально полезными. Достижения в области искусственного интеллекта будут иметь трансформирующее влияние на широкий ряд отраслей, включая здравоохранение, безопасность, энергетику, транспорт, производство и развлечения, считают в Google.
2. Избегать создания или усиления предвзятого отношения. AI-алгоритмы и наборы данных могут отображать, усиливать или уменьшать предвзятое отношение . В Google признают, что различить справедливое и несправедливое отношение не всегда просто, причём различные проявления могут по-разному восприниматься в разных культурах и обществах. Но компания намерена по-максимуму избегать негативного влияния на людей, в частности, в таких вопросах, как раса, этническая принадлежность, пол, национальность, уровень дохода, сексуальная ориентация, а также политические и религиозные убеждения.
3. Проверяться на безопасность. Google продолжит разрабатывать и применять надежные методы обеспечения безопасности, чтобы избежать непредвиденных результатов AI-разработок, несущих риск причинения вреда.
4. Быть подконтрольным людям. Google будет разрабатывать AI-системы, которые будут предоставлять надлежащие возможности для обратной связи, объяснений и подачи жалоб. AI-разработки компании будут подлежать соответствующему человеческому контролю и руководству.
5. Защищать конфиденциальность. Принципы конфиденциальности Google будут применяться и на этапе разработки, и на этапе использования AI-технологий.
6. Поддерживать высокие научные стандарты. По словам Пичаи, технологические инновации основаны на научном методе и приверженности открытому исследованию, интеллектуальной строгости, целостности и сотрудничеству. Google будет работать с рядом заинтересованных сторон для содействия продуманному лидерству в этой области, опираясь на научно строгие и мультидисциплинарные подходы.
7. Быть доступными для использования, которое согласуется с этими принципами.

Пичаи также очертил области, в которых Google не будет заниматься AI-разработками и исследованиями. В их числе:

• Технологии, которые приносят или могут принести вред;
• Вооружение и другие технологии, главной целью которых является причинение вреда людям;
• Технологии, которые собирают или используют информацию для наблюдения, нарушающего международные нормы;
• Технологии, нарушающие принципы международного права и права человека.

«Мы считаем, что эти принципы являются правильным фундаментом для нашей компании и будущего развития искусственного интеллекта. Этот подход согласуется с нашими ценностями, изложенными в обращении основателей компании в 2004 году. Там мы чётко определили наше намерение занять позицию, ориентированную на долгосрочную перспективу, даже если это означает принятие краткосрочных компромиссов. Тогда мы это сказали, а теперь мы в это верим», — заключил Пичаи.

Вслед за публикацией AI-принципов руководитель облачных сервисов Google Дайан Грин (Diana Green) озвучила позицию компанию в отношении сотрудничества с Пентагоном, активно критикуемого сотрудниками корпорации. В частности, она заявила, что заключать новые контракты компания не будет, но взятые на себя обязательства выполнит, при этом придерживаясь принципов, оглашённых Сундаром Пичаи.

Цель Project Maven – ускорить распознавание объектов на снимках с бесполитников с помощью искусственного интеллекта. Срок действия контракта истекает в марте 2019 года.

Источник