В НИУ ВШЭ разработан инструмент для контроля ИИ-технологий в медицине
Группа исследователей из Центра искусственного интеллекта НИУ ВШЭ разработала индекс для определения уровня этичности систем искусственного интеллекта (ИИ) в медицине. Инструмент предназначен для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения ИИ-технологий в медицинскую практику.
Стремительный рост использования ИИ-технологий в различных сферах жизни, в том числе медицине, сопровождается появлением новых рисков, связанных не только с информационной безопасностью, экономическими или социальными вопросами, но и с этическими проблемами. Действующие стандарты и имеющаяся на данный момент регуляторика недостаточно учитывают именно этические аспекты, поэтому возникла необходимость в создании специализированного инструмента для соответствующей оценки ИИ-систем.
Команда проекта «Этическая экспертиза в сфере ИИ» Центра ИИ НИУ ВШЭ провела комплексную работу, состоящую из двух этапов: теоретического и практического. Сначала исследователи на основе анализа большого количества как отечественных, так и международных документов выделили и дали определение ключевых принципов профессиональной медицинской этики. Это автономия, благодеяние, справедливость, ненанесение вреда и забота. После этого было проведено качественное полевое исследование среди врачей и разработчиков ИИ, позволившее конкретизировать эти принципы и дополнить их новыми принципами, используя методику глубинного полуструктурированного интервью.
В результате исследования был создан чат-бот «Индекс этичности систем искусственного интеллекта в медицине», который в режиме 24/7 позволяет проводить процедуру самооценки и получать мгновенную обратную связь от разработчиков индекса. Методика оценки представляет собой тест с вопросами закрытого типа, призванными оценить уровень осведомленности как разработчиков медицинского ИИ, так и самих эксплуатантов ИИ-системы о возможных этических рисках, связанных с разработкой, внедрением и использованием ИИ-систем в медицинских целях.
Новая методика уже апробирована и получила признание ряда ведущих IT-компаний, таких как MeDiCase и Globus IT, специализирующихся на разработке ИИ-решений для медицины. Кроме того, ее одобрила Комиссия по реализации Кодекса этики в сфере искусственного интеллекта и Московское городское научное общество терапевтов.
Анастасия Углева
«Разработка данного индекса стала важным шагом на пути обеспечения этичного использования ИИ в медицине. Мы надеемся, что наша разработка будет небесполезной для медицинского сообщества, обеспокоенного, как показывают наши исследования, возможными негативными именно этическими последствиями широкого внедрения ИИ в медицинскую практику», — подчеркивает руководитель проекта, профессор, заместитель директора Центра трансфера и управления социально-экономической информацией НИУ ВШЭ Анастасия Углева.
Ожидается, что индекс будет востребован этическими комиссиями, судебно-медицинским экспертным сообществом и другими организациями, ответственными за оценку и сертификацию ИИ. Он также будет способствовать переходу от принципа единоличной ответственности медицинского работника к модели распределенной ответственности всех участников процесса. Внедрение этого индекса поможет сделать использование ИИ более безопасным и соответствующим высоким этическим стандартам.
Методические рекомендации «Индекс этичности систем искусственного интеллекта в медицине» зарегистрированы в НИУ ВШЭ в качестве результата интеллектуальной деятельности (РИД) №8.0176-2023.
Вам также может быть интересно:
Стартовала регистрация школьников на Всероссийскую олимпиаду по ИИ
Открылась регистрация на пятый сезон Всероссийской олимпиады по искусственному интеллекту. В этом году организаторы ожидают увеличения числа участников — соревнование получило международный статус, и теперь принять участие могут школьники 8–11-х классов не только из России, но и из других стран. Олимпиаде присвоен II уровень в перечне РСОШ — ее призеры и победители получат льготы при поступлении в вуз.
В НИУ ВШЭ обсудили глобальные тренды ИИ на международной форсайт-сессии
В Высшей школе экономики прошла международная форсайт-сессия по искусственному интеллекту (ИИ). Российские и иностранные ученые обсудили тренды и вызовы, которые возникают в связи с быстрым развитием ИИ.
Больше не одинокий гений: как сохранить идентичность ученого в эпоху ИИ
Сегодня профессия ученого требует новых навыков, зачастую не связанных с наукой — от умения находить гранты до успешной продажи продукта своего труда. Огромным вызовом стал ИИ, который справляется со многими задачами быстрее человека. Центр научной интеграции НИУ ВШЭ организовал вебинар «Ученые и искусственный интеллект», посвященный профессиональной идентичности исследователя в условиях стремительной цифровизации и технологических трансформаций. Подробнее — в материале HSE Daily.
Вышка доверит ИИ рутинную работу по созданию программ ДПО
НИУ ВШЭ совместно с EdTech-компанией CDO Global запускает AI-конструкторы для оптимизации разработки курсов дополнительного профессионального образования (ДПО). Новый сервис позволит автоматизировать подготовку учебных материалов и оценочных средств, значительно сократив время и ресурсы, затрачиваемые преподавателями и методистами.
ВШЭ и Московский аналитический центр объединят усилия в сфере ИИ
НИУ ВШЭ подписал соглашение о сотрудничестве с ГБУ «Московский аналитический центр». Документ закрепил намерение сторон развивать совместные исследования и внедрять технологии искусственного интеллекта в управление городским хозяйством.
Руководители «Билайна» прокачивают навыки работы с ИИ на базе НИУ ВШЭ
В Центре непрерывного образования факультета компьютерных наук НИУ ВШЭ стартовала программа повышения квалификации для руководителей компании «Вымпелком» «Лаборатория ИИ: Вместе быстрее». В ее работе примут участие сотрудники компании из разных городов страны, которые будут повышать компетенции по внедрению ИИ в бизнес-процессы.
Вузы разделились на шесть лагерей в отношении к искусственному интеллекту
Каким должно быть образование в эпоху ИИ? Чтобы разобраться, какие есть точки зрения и какие решения уже формируются, команда Института образования ВШЭ весной 2025 года провела серию интервью с проректорами российских университетов. Об итогах этого исследования рассказывает директор института Евгений Терентьев.
НИУ ВШЭ стал абсолютным лидером рейтинга вузов по подготовке кадров для ИИ
Альянс в сфере искусственного интеллекта опубликовал обновленный рейтинг вузов по качеству подготовки специалистов в области ИИ. В него вошли 203 российских университета из 68 регионов. Высшая школа экономики первой получила наивысшую категорию А++.
ВШЭ и МТС будут вместе бороться с дипфейками и научат искусственный интеллект создавать новое видео под запросы пользователей
НИУ ВШЭ и компания МТС Web Services (MWS) объявили о запуске серии совместных исследовательских работ в области технологий искусственного интеллекта, направленных на развитие инновационных решений в сфере кибербезопасности, мультимодальной генерации контента и анализа больших данных. Основным исполнителем проекта является Московский институт электроники и математики им. А.Н. Тихонова НИУ ВШЭ при общей координации Центра искусственного интеллекта ВШЭ.
11 вузов России стали участниками проекта ВШЭ и «Яндекса» по применению ИИ при подготовке дипломных работ
Эксперты «Яндекс Образования» и факультета компьютерных наук НИУ ВШЭ научили студентов и научных руководителей использовать нейросеть YandexGPT в трудоемких задачах — для анализа источников, структурирования информации, визуализации данных и работы с текстом в процессе подготовки дипломов.