Названы самые распространенные ошибки ИИ
Об этом рассказал преподаватель кафедры инструментального и прикладного программного обеспечения Института информационных технологий РТУ МИРЭА Андрей Рыбников в интервью для «Ленты.ру».
Ошибки ИИ можно условно разделить на две категории: галлюцинации и уязвимости, вызванные воздействием на входные данные. Галлюцинации проявляются в том, что нейросеть может генерировать информацию, которая кажется правдоподобной, но на самом деле является вымышленной. Это не обман, а результат работы модели.
Рыбников пояснил, что ИИ делает предсказания на основе своих тренировочных данных, и в результате может создавать вымышленные биографии или код с несуществующими функциями. Также возможно ввести ИИ в заблуждение через специально составленные запросы, обходящие внутренние ограничения модели.
Эксперт заключил, что для минимизации ошибок необходимо использовать правильные запросы, содержащие контекст и четкие критерии. Для технических задач рекомендуется добавлять проверки фактов или демонстрацию кода с комментариями, а для творческих - уточнять целевую аудиторию.
Также было сообщено, что в Санкт-Петербурге нейросеть будет использоваться для вызова Росгвардии на детские и спортивные площадки для задержания хулиганов. Нейросеть начала обрабатывать видео- и аудиопотоки, поступающие с камер системы «Безопасный город».
Источник и фото - lenta.ru
