-
17:10
-
16:04
-
15:16
-
14:39
-
13:41
-
12:54
-
12:10
-
11:51
-
11:02
-
10:10
-
08:53
Следите за нами в Facebook
Исследователи в области медицины отметили «галлюцинации» ИИ
Технологический гигант OpenAI продвигает свой инструмент транскрипции на основе ИИ Whisper как почти достигший «человеческого уровня надежности и точности».
Однако у Whisper есть существенный недостаток: он часто генерирует ложный текст, иногда целые предложения, о чем сообщалось в интервью с более чем десятком инженеров-программистов, разработчиков и научных исследователей, по данным AP.
Это явление, называемое в отрасли «галлюцинациями», может включать неуместные расовые комментарии, агрессивную лексику и сфабрикованные медицинские методы лечения.
Эксперты предупреждают, что эти неточности вызывают беспокойство, особенно с учетом того, что Whisper применяется в различных отраслях по всему миру для таких задач, как перевод и транскрибация интервью, генерация текста для популярных потребительских технологий и создание субтитров к видео.
Особую обеспокоенность вызывает быстрое внедрение инструментов на основе Whisper медицинскими учреждениями для транскрибации консультаций пациентов, несмотря на рекомендации OpenAI не использовать этот инструмент в «областях высокого риска».