диплом ОИИ Ответственный искусственный интеллект

Актуальность темы

Развитие технологий искусственного интеллекта (ИИ) ставит перед обществом и разработчиками новые этические и правовые вызовы, требующие создания принципов ответственного использования ИИ. Согласно исследованию Всемирного экономического форума (2024), 82% крупных компаний планируют внедрять системы ИИ в ближайшие 3 года, однако только 35% из них имеют четкие внутренние стандарты ответственного использования ИИ, что создает риски для пользователей и общества в целом.

Особую актуальность тема приобретает в контексте регулирования ИИ на глобальном уровне. Европейский Союз уже принял закон об искусственном интеллекте (AI Act), который устанавливает строгие требования к высокорисковым системам ИИ, а Россия разрабатывает собственную стратегию регулирования ИИ до 2030 года. В то же время, по данным Московской школы управления Сколково, менее 20% российских ИТ-компаний готовы к соблюдению будущих регуляторных требований в области ответственного ИИ, что создает потребность в разработке методологий и инструментов для оценки и повышения ответственности систем ИИ.

Бесплатная консультация по вашей теме: Telegram: @Diplomit WhatsApp: +7 (987) 915-99-32 | Телефон: +7 (987) 915-99-32, Email: admin@diplom-it.ru| MAX: +7 (987) 915-99-32

Разработка принципов и методов ответственного искусственного интеллекта представляет собой междисциплинарную задачу, объединяющую аспекты этики, права, информатики и социологии. Это делает тему особенно подходящей для ВКР по направлению прикладной информатики, так как позволяет продемонстрировать комплексное применение полученных знаний и навыков в области, имеющей стратегическое значение для будущего развития технологий. В условиях стремительного внедрения ИИ в различные сферы жизни, создание эффективных механизмов обеспечения ответственности систем ИИ становится важным направлением исследований для студентов технических специальностей.

Цель и задачи

Цель исследования: разработка методологии и инструментария для оценки и повышения ответственности систем искусственного интеллекта на примере рекомендательной системы онлайн-магазина "ТехноМаркет", обеспечивающая соответствие требованиям этических и регуляторных стандартов в области ИИ.

Для достижения поставленной цели необходимо решить следующие задачи:

• Провести анализ существующих этических и регуляторных стандартов в области ответственного ИИ (ЕС AI Act, OECD Principles, NIST AI RMF и др.)
• Исследовать ключевые аспекты ответственного ИИ: прозрачность, справедливость, безопасность, подотчетность, уважение приватности
• Определить функциональные и нефункциональные требования к методологии оценки ответственности систем ИИ для рекомендательной системы онлайн-магазина "ТехноМаркет"
• Разработать методологию оценки ответственности систем ИИ, включающую критерии, метрики и методы измерения
• Создать инструментарий для практической оценки ответственности систем ИИ (чек-листы, шаблоны отчетов, методики тестирования)
• Реализовать методы повышения ответственности системы (объяснимость рекомендаций, коррекция предвзятости, защита данных)
• Провести оценку ответственности рекомендательной системы "ТехноМаркет" с использованием разработанной методологии
• Оценить эффективность внедренных мер по критериям: соответствие этическим стандартам, уровень доверия пользователей, соответствие регуляторным требованиям

Объект и предмет исследования

Объект исследования: процессы разработки и внедрения рекомендательной системы онлайн-магазина "ТехноМаркет", включающие сбор данных, обучение моделей, формирование рекомендаций и взаимодействие с пользователями.

Предмет исследования: методы и технологии разработки методологии и инструментария для оценки и повышения ответственности систем искусственного интеллекта на примере рекомендательной системы онлайн-магазина.

Исследование фокусируется на создании методологии оценки ответственности системы, которая будет соответствовать специфике работы рекомендательной системы онлайн-магазина "ТехноМаркет", учитывая особенности обработки персональных данных пользователей, требования к прозрачности рекомендаций и необходимость соблюдения этических норм. Особое внимание уделяется решению проблемы предвзятости алгоритмов, которая может приводить к дискриминации определенных групп пользователей и нарушению принципа справедливости.

В рамках исследования будет проведен сравнительный анализ различных подходов к обеспечению ответственности систем ИИ (принципы OECD, этические рамки IEEE, регуляторные требования ЕС AI Act) и разработана адаптированная методология для оценки ответственности рекомендательных систем. Также будет исследована возможность применения методов объяснимого ИИ (XAI) для повышения прозрачности рекомендаций и методов коррекции предвзятости для обеспечения справедливости системы. Особое внимание будет уделено вопросам практической реализации этических принципов в технические требования, что критически важно для внедрения ответственного ИИ в коммерческие продукты.

Примерный план (Содержание) работы

Структура ВКР должна отражать логическую последовательность этапов исследования и разработки методологии ответственного ИИ. Вот примерный план работы по теме "Ответственный искусственный интеллект":

Глава 1. Анализ проблемной области и постановка задачи

• 1.1. Современное состояние регулирования и этических аспектов искусственного интеллекта
• 1.2. Анализ существующих этических и регуляторных стандартов в области ответственного ИИ
• 1.3. Исследование процессов разработки рекомендательной системы онлайн-магазина "ТехноМаркет"
• 1.4. Выявление этических и регуляторных рисков в текущей рекомендательной системе
• 1.5. Постановка задачи и определение критериев оценки ответственности системы ИИ

Глава 2. Результаты работ, выполняемые на этапах анализа, проектирования и разработки

• 2.1. Анализ требований к ответственной системе ИИ для рекомендательной системы онлайн-магазина
• 2.2. Исследование и выбор ключевых аспектов ответственного ИИ: прозрачность, справедливость, безопасность, подотчетность, уважение приватности
• 2.3. Проектирование методологии оценки ответственности систем ИИ и разработка критериев и метрик
• 2.4. Создание инструментария для практической оценки ответственности системы
• 2.5. Разработка методов повышения ответственности рекомендательной системы

Глава 3. Описание итоговой реализации и тестирование

• 3.1. Описание реализованной методологии и инструментария для оценки ответственности ИИ
• 3.2. Оценка ответственности рекомендательной системы онлайн-магазина "ТехноМаркет"
• 3.3. Внедрение мер по повышению ответственности системы
• 3.4. Тестирование системы после внедрения мер по повышению ответственности
• 3.5. Анализ результатов и рекомендации по дальнейшему развитию

Для более детального понимания структуры и содержания ВКР рекомендуем ознакомиться с Полным руководством по написанию ВКР по ИИ.

Ожидаемые результаты и практическая значимость

Результатом исследования станет методология и инструментарий для оценки и повышения ответственности систем искусственного интеллекта, позволяющий онлайн-магазину "ТехноМаркет":

• Обеспечить соответствие рекомендательной системы этическим стандартам и будущим регуляторным требованиям
• Повысить уровень доверия пользователей к рекомендациям системы на 30-35%
• Снизить уровень предвзятости рекомендаций на 40-45%
• Повысить прозрачность рекомендаций за счет внедрения методов объяснимого ИИ
• Обеспечить защиту персональных данных пользователей в соответствии с требованиями законодательства

Практическая значимость работы заключается в том, что разработанная методология может быть внедрена не только в рекомендательную систему онлайн-магазина "ТехноМаркет", но и адаптирована для других типов систем ИИ, таких как системы кредитного скоринга, системы подбора персонала, чат-боты для клиентской поддержки и другие. Это особенно важно в свете ужесточения регуляторных требований к системам ИИ и роста общественного внимания к этическим аспектам использования искусственного интеллекта.

Результаты исследования могут быть использованы "ТехноМаркет" для повышения репутации компании и снижения рисков, связанных с использованием ИИ, а также для создания методических рекомендаций по внедрению принципов ответственного ИИ в ИТ-разработки. Это позволит не только соответствовать будущим регуляторным требованиям, но и создать новые источники конкурентного преимущества за счет повышения доверия пользователей и улучшения качества предоставляемых услуг.

Кроме того, разработанная методология может быть использована в учебном процессе технических вузов для подготовки специалистов в области этики ИИ и регуляторного соответствия, что соответствует требованиям к современным образовательным программам в сфере информационных технологий.