Счетная палата США (U.S. Government Accountability Office, GAO) опубликовала рекомендации по обеспечению ответственного использования ИИ в работе государственных органов.
В документе говорится, что несмотря на большие надежды на улучшение работы правительства благодаря внедрению ИИ, в т.ч. в медицине, имеется серьезная проблема с точки зрения надзорной деятельности. Для выработки единых подходов, которые бы обеспечили прозрачность и ответственное отношение к внедрению ИИ, GAO провела обширный обзор литературы и подключило экспертов по ИИ, а также инспекторов по надзорной деятельности.
В результате этой работы GAO опубликовала 112-страничный документ «Искусственный интеллект: структура подотчетности для федеральных агентств и других организаций» ("Artificial Intelligence: An Accountability Framework for Federal Agencies and Other Entities"), который включает 4 ключевых раздела с рекомендациями по правильному использованию ИИ:
✅Управление. Должны быть четко определены цели и задачи внедрения ИИ, роли и обязанности, ценности. К работе следует привлекать опытный персонал с многопрофильными навыками работы с ИИ. Должно быть разработано управление рисками и технические спецификации ИИ-системы. ИИ-проект должен быть прозрачен для внешней экспертизы.
✅Данные. Источники должны быть задокументированы, надежность и полнота заполнения данных оценена, переменные тщательно выбраны. Должны быть изучены зависимости внутри данных и их предвзятость. Обеспечены меры безопасности и конфиденциальности.
✅Производительность. Должны быть задокументированы все модели, используемые в ИИ-системе, их метрики точности и производительности, выходные данные. Должны быть определены методы человеческого надзора за работой ИИ.
✅ Мониторинг. Должен быть внедрен и задокументирован непрерывный мониторинг метрик работы ИИ-системы, определены допустимые пределы отклонений, составлены планы контроля работы ИИ. Должна быть оценена полезность работы ИИ-системы, а также критерии масштабирования.
Документ доступен тут https://www.gao.gov/products/gao-21-519sp
#Ai #GAO
В документе говорится, что несмотря на большие надежды на улучшение работы правительства благодаря внедрению ИИ, в т.ч. в медицине, имеется серьезная проблема с точки зрения надзорной деятельности. Для выработки единых подходов, которые бы обеспечили прозрачность и ответственное отношение к внедрению ИИ, GAO провела обширный обзор литературы и подключило экспертов по ИИ, а также инспекторов по надзорной деятельности.
В результате этой работы GAO опубликовала 112-страничный документ «Искусственный интеллект: структура подотчетности для федеральных агентств и других организаций» ("Artificial Intelligence: An Accountability Framework for Federal Agencies and Other Entities"), который включает 4 ключевых раздела с рекомендациями по правильному использованию ИИ:
✅Управление. Должны быть четко определены цели и задачи внедрения ИИ, роли и обязанности, ценности. К работе следует привлекать опытный персонал с многопрофильными навыками работы с ИИ. Должно быть разработано управление рисками и технические спецификации ИИ-системы. ИИ-проект должен быть прозрачен для внешней экспертизы.
✅Данные. Источники должны быть задокументированы, надежность и полнота заполнения данных оценена, переменные тщательно выбраны. Должны быть изучены зависимости внутри данных и их предвзятость. Обеспечены меры безопасности и конфиденциальности.
✅Производительность. Должны быть задокументированы все модели, используемые в ИИ-системе, их метрики точности и производительности, выходные данные. Должны быть определены методы человеческого надзора за работой ИИ.
✅ Мониторинг. Должен быть внедрен и задокументирован непрерывный мониторинг метрик работы ИИ-системы, определены допустимые пределы отклонений, составлены планы контроля работы ИИ. Должна быть оценена полезность работы ИИ-системы, а также критерии масштабирования.
Документ доступен тут https://www.gao.gov/products/gao-21-519sp
#Ai #GAO
www.gao.gov
Artificial Intelligence: An Accountability Framework for Federal Agencies and Other Entities
As a nation, we have yet to grasp the full benefits or unwanted effects of artificial intelligence. AI is widely used, but how do we know it's working...