Вход на сайт

Просмотр новости

Найдите то, что Вас интересует

МГУ разработает инструменты контроля "галлюцинаций" ИИ-систем

Дата публикации: 05-06-2025 12:01:41

Университет стал одним из победителей конкурса третьей волны среди центров искусственного интеллекта

Основное содержимое страницы с новостью.

5 июня, 15:01,

обновлено 5 июня, 15:41

Наука

МГУ разработает инструменты контроля "галлюцинаций" ИИ-систем

Университет стал одним из победителей конкурса третьей волны среди центров искусственного интеллекта

МОСКВА, 5 июня. /ТАСС/. Исследовательский центр в сфере искусственного интеллекта (ИИ) МГУ имени М.В. Ломоносова, ставший одним из победителей конкурса третьей волны среди центров ИИ, создаст решение, позволяющее бороться с так называемыми галлюцинациями больших языковых моделей для безопасного использования ИИ в бизнесе, банковской сфере и госуслугах. Об этом заявил директор центра Григорий Боков.

Галлюцинации чат-ботов - это свойства языковых моделей выдумывать факты при ответе на вопрос пользователя. Направления работы подразделения МГУ были представлены в координационном центре правительства РФ, где в четверг объявили победителей организуемого Минэкономразвития отбора третьей волны исследовательских центров в сфере ИИ, которые получат гранты на развитие. В конкурсе участвовали 15 вузов. Встречу проводил вице-премьер Дмитрий Чернышенко.

"[Вместе с индустриальными партнерами будет реализован проект по обеспечению] устранения [так называемых] галлюцинаций [ИИ-систем] для повышения безопасности применения больших языковых моделей в бизнесе, банковской сфере и госуслугах", - сказал Боков, отметив, что это один из шести прикладных проектов, которые реализует подразделение.

Кроме того, МГУ намерен разработать мультимодальную ИИ-систему для беспилотных автомобилей, которая будет координировать работу множества сенсоров для повышения надежности транспорта. "Проекты амбициозные, но с такой научной базой и поддержкой государства мы уверены в успехе. Наша цель - превратить научные разработки в реальные технологические решения, востребованные как в России, так и за ее пределами", - отметил он.

Сумма гранта, которую получит по итогам отбора МГУ, составила 676 млн рублей. Центр станет ключевым элементом развиваемой вузом экосистемы ИИ, состоящей из Института искусственного интеллекта, Научно-образовательной школы по этому направлению, фонда "Интеллект" и Центра хранения и анализа больших данных, а также суперкомпьютера "МГУ-270", позволяющего решать сложные задачи в области искусственного интеллекта, медицины и материаловедения. 

Схожие новости

#Наименование новостиТональностьИнформативностьДата публикации
1Университет Иннополис получит 670 млн рублей на проекты в области ИИ0002-06-2025
2Названы семь вузов, отобранных в третью волну исследовательских центров по ИИ0005-06-2025
3В РФ разработали ИИ-систему для автоматического сокрытия нежелательного контента0013-05-2025
4ИТМО получит более 1 млрд рублей на прорывные исследования по ИИ0002-06-2025
5Новый метод НИУ ВШЭ и «Т-Технологий» повышает качество работы ИИ5709-07-2026
6Новый метод НИУ ВШЭ и «Т-Технологий» повышает качество работы ИИ5709-07-2026
7ИТМО получит более 350 миллионов рублей на развитие образовательных программ в сфере ИИ 5705-05-2025
8ИИ больше не чудо: россияне становятся прагматичнее в оценках искусственного интеллекта0525-06-2026
9Ученые из Ярославля получили грант на развитие исследований искусственного интеллекта0004-07-2020
10На ВМК МГУ вручили сертификаты выпускникам Академической программы по искусственному интеллекту0530-06-2026

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 0. Источник: tass.ru.