Ученый Галичин назвал низкую гибкость данных ключевой проблемой в системах ИИ

2025-09-26T13:07:00Z — Современные системы искусственного интеллекта строятся на обработке больших объемов данных, и качество этих данных непосредственно влияет на точность и надежность работы алгоритмов. Научный сотрудник группы «Доверенные и безопасные интеллектуальные системы» Института AIRI и исследователь лаборатории Safe AI Lab AIRI-МТУСИ Андрей Галичин в беседе с Ferra.ru описал проблемы, возникающие при использовании устаревших или фрагментарных данных.

Современные системы искусственного интеллекта строятся на обработке больших объемов данных, и качество этих данных непосредственно влияет на точность и надежность работы алгоритмов. Научный сотрудник группы «Доверенные и безопасные интеллектуальные системы» Института AIRI и исследователь лаборатории Safe AI Lab AIRI-МТУСИ Андрей Галичин в беседе с Ferra.ru описал проблемы, возникающие при использовании устаревших или фрагментарных данных.

Одной из ключевых проблем, возникающих в системах ИИ, является низкая гибкость данных. Разрозненное хранилище информации препятствует быстрому доступу к актуальной и точной информации, необходимой для принятия обоснованных решений. В результате этого возникают ошибки в выдаче рекомендаций и принятии решений, что отражается на таких областях, как кредитование, страхование и медицинская диагностика.

Неполные или устаревшие данные приводят к тому, что системы ИИ формируют ложные шаблоны, воспроизводя стереотипы и дискриминационные модели прошлых эпох. Это может проявляться в банковских продуктах, страховании и здравоохранении, делая решения предвзятыми и несправедливыми.

Другая проблема заключается в децентрализованном хранении данных, что приводит к невозможности централизованно отслеживать и анализировать потоки информации. Недостаточность контроля над качеством данных создает риски в маркетинговых кампаниях, снижает качество обслуживания клиентов и приводит к возникновению неверных коммуникаций.

Этические аспекты использования персональных данных также поднимаются в исследовании. Излишняя персонализация ИИ может создавать когнитивное искажение, поскольку пользователям предоставляется лишь та информация, которая соответствует их собственным убеждениям и взглядам. Необходимо найти компромисс между точностью и объективностью данных, давая пользователям возможность регулировать степень персонализации в критических ситуациях.

Автор:

Источник:

Телеканал «360» — Ученый Галичин назвал низкую гибкость данных ключевой проблемой в системах ИИ

Читайте также:

2025-09-26T03:28:29Z

Эксперты Brand Analytics назвали главные проблемы при работе с ИИ

МОСКВА, 26 сентября. /ТАСС/. Пользователи российских соцмедиа считают, что некорректные ответы, генерация бессмысленного текста, ошибки и шаблонность являются главными проблемами работы технологий искусственного интеллекта (ИИ).

2025-09-23T05:00:00Z

Саратовские ученые нашли способ сделать нейросеть человечнее

Приблизить эффективность искусственного интеллекта к принципам работы человеческого мозга может помочь новое открытие ученых СГУ. Результаты исследования опубликованы в журнале The European Physical Journal Special Topics.

2025-09-23T09:48:24Z

Гуцан: современные технологии не должны подменять решения должностного лица

Кандидат на должность генпрокурора России отметил, что работа по внедрению новейших информационных технологий должна быть продолжена

2025-09-23T14:20:00Z

Последние исследования показывают, что ИИ всё чаще использует материалы из научных статей, которые отозваны за ошибки и фальсификации

2025-09-24T08:43:00Z

Банк России оценит возможность расширения доступа к данным для обучения ИИ

Банк России планирует рассмотреть возможность реализации мероприятий, направленных на повышение доступа разработчиков и потребителей к данным, необходимым для обучения моделей искусственного интеллекта (ИИ), говорится в докладе регулятора "Национальная цифровая инфраструктура финансового рынка".Обеспечение удобных и безопасных механизмов обмена данными между государством, бизнесом и гражданами для применения ИИ на финансовом рынке регулятор называет одним из перспективных направлений развития национальной цифровой инфраструктуры."Учитывая, что решения все чаще принимаются и на основе данных, и на моделях ИИ, качество самих данных становится ключевым фактором развития моделей ИИ на финансовом рынке, а также влияет на уровень доверия к этой технологии", - сказано в докладе.ЦБ, помимо повышения качества данных, отмечает важность разработки с участием регулятора комплексной архитектуры данных на финансовом рынке.Банк России в июле разработал и направил в финансовые организации кодекс этики в сфере разработки и применения ИИ.