Дизайн искусственного интеллекта, ориентированный на человека, помогает избежать негативных последствий

«Привет, Сири, какая сегодня погода?» - это один из самых распространенных вопросов, задаваемых виртуальному помощнику Apple, но также один из многих случаев, где искусственный интеллект (ИИ) уже стал частью нашей посведневной жизни.

Такой опыт применения ИИ уже стал фоном, облегчая жизнь тысячами малозаметных деталей, таких как установка таймера,  заполнение рекомендаций Netflix или  предложение слов для завершения электронного письма.

Что  действительно  привлекает внимание общественности, так это сбои ИИ: система безопасности самолетов, которая, как сообщается, вызвала пикирование самолетов Boeing 737 Max  или  отзыв  беспилотных автомобилей.

Огромный потенциал ИИ — будь то помощь в общественной безопасности, борьба с пандемией COVID-19 или  помощь в поиске фотографий на смартфоне  - поднимают вопрос о том, как ответственно максимизировать его потенциал, защищая человека от ошибок ИИ и негативных последствий. Ответ заключается в отношениях между ИИ и его пользователями: перенос акцента внимания ИИ на человеческие потребности.

Лучшая формулировка миссии ИИ, возможно, состоит в том, чтобы максимизировать человеческий потенциал, став мощным вспомогательным инструментом, который освобождает человека от рутинных или непосильных задач. Дизайн — это строительный материал для этой миссии. Проще говоря, эффективность ИИ ограничена его пользовательским опытом, связью, на которой сосредоточиваются пользователи, продолжая развивать системы ИИ. Если ИИ — это инструмент, то дизайн — это панель управления, которая позволяет людям его контролировать.

Людям необходимы эти инструменты. В то время как информационный век в прямом смысле завалил нас данными, люди могут обрабатывать только ограниченное их количество. Задумайтесь о нашем мозге как о сите, через которое может проcеиваться только ограниченное количество информации. Хорошо спроектированный ИИ может определить, что важно, ограничивая то, что люди пытаются протиснуть через это сито.

С практической точки зрения, есть три правила создания ответственных, мощных инструментов ИИ, ориентированных на человека:

1. Технологии должны решать проблемы, а не создавать их

Люди покупают лопаты не для того, чтобы хранить их — они нужны уборки снега. Слишком часто в высоких технологиях сначала создается инструмент, а потом находится ему применение.

Изначально необходимо определить потребности и проблемы клиентов, а затем разрабатывать технологию для их решения. Например, расшифровка звонков в режиме реального времени может помочь полицейским управлениям принимать звонки в службу экстренной помощи. ИИ может удовлетворить потребности пользователя, выполняя поиск и помечая ключевую информацию, такую ​​как местоположение и тип чрезвычайной ситуации, что позволяет респонденту сосредоточиться на звонящем и решить его проблему. 

2. Сохранение свободы действий человека, принимая во внимание открытость и двусмысленность

В качестве вспомогательной технологии, которая оценивает по спектру правдоподобия, ИИ должен быть в состоянии представлять информацию в легко доступной форме, включая способность выражать неуверенность и сомнения. Например, транскрипция на основе ИИ может быть разработана для настройки шрифта транскрипции, чтобы обозначить неопределенность. Чем труднее прочитать слово, тем менее уверен ИИ в том, что он правильно расшифровал его.

Альтернатива — сообщение результатов, избавленное от двусмысленности, — может подорвать человеческую свободу действий, сузив возможные варианты выбора действий. Отличие в дизайне. Преимущества ясности проявляются в обоих направлениях: чем лучше ИИ понимает своего пользователя, тем быстрее он сможет идентифицировать важную информацию.

Открытость также помогает пользователям, которые несут ответственность перед другими заинтересованными сторонами. Артур К. Кларк однажды сказал, что «любая достаточно продвинутая технология неотличима от магии». Однако для тех, кому необходимо сообщить, почему были приняты решения, например, для сотрудников службы общественной безопасности, связь между тем, что производит алгоритм ИИ, и его входными данными, должна быть ясной и открытой. 

3. Оптимизация дизайна и правильный контекст

Разработка ИИ для решения уникальных задач и работы в определенных рабочих процессах может показаться нелогичной, но такой взвешенный подход будет означать более целевое предоставление ценности пользовательскому опыту в долгосрочной перспективе. Например, это может смягчить  проблемы с конфиденциальностью, задействовав ИИ в более широком рабочем процессе, в котором есть политики и процедуры для смягчения последствий этических упущений, злоупотреблений и ошибок. 

Пример с Boeing 737 Max иллюстрирует важность обеспечения контекста, ориентированного на человека. Его программное обеспечение было разработано для опускания носа самолета, если датчик обнаруживал, что он поднимается слишком высоко. Когда этот датчик вышел из строя, у пилотов  было всего несколько секунд, чтобы отключить систему, но  они не знали, что это конструктивная особенность модели самолета.

Как и ИИ, дизайн повсюду и часто остается незамеченным. Это разница между вашим любимым креслом и тем, которого вы избегаете, или почему вы отдаете предпочтение одному приложению перед другим, которое выполняет практически аналогичные функции.

Рабочий процесс, ориентированный на конечных пользователей, мог бы предупредить экипаж самолета о явной опасности и дать им четкий вариант действия как обойти ИИ, предотвратив трагические последствия.

По материалам: Fortune