Сегодня, 11:12 | Диана Кулманакова Диана Кулманакова Технологии
5 0
Существующие инструменты для идентификации машинного творчества демонстрируют серьезные сбои.
Фото: 5-tv.ru
Перейти в Дзен Следите за нашими новостями
в удобном формате Есть новость? Присылайте »
Детекторы ИИ посчитали, что Декларацию независимости США написали нейросети
Детекторы искусственного интеллекта регулярно выдают ошибочные результаты при анализе текстов, созданных людьми. Например, алгоритмы утверждают, что Декларация независимости США написана нейросетью. Об этом сообщила Dallas Express.
Существующие инструменты для идентификации машинного творчества демонстрируют серьезные сбои, принимая даже классические исторические документы за работу алгоритмов.
Популярный сервис ZeroGPT в ходе экспериментов оценил вероятность того, что Декларация независимости США была написана искусственным интеллектом, в диапазоне от 95% до 100%. Основная проблема заключается в использовании показателя чат-бота «Perplexity AI», который измеряет непредсказуемость подбора слов.
Поскольку нейросети стремятся к статистической усредненности, любая грамотная, логичная и строго структурированная человеческая речь рискует быть помеченной как продукт вычислений. Это создает огромные риски для образовательной и издательской сфер, где подобные программы внедряются повсеместно.
Лингвист Марзена Карпинска из Университета Саймона Фрейзера акцентирует внимание на недопустимости репрессивных мер на основе подобных проверок.
«Мы совершенно точно не можем массово отвергать людей из-за того, что детектор ИИ почему-то назвал их текст генерацией», — отметила она.
Ситуация критически обостряется для авторов, пишущих на английском как на иностранном языке. Исследования подтверждают, что вероятность ложного обвинения для них достигает 61%, тогда как для носителей языка этот порог составляет около 16%.
Масла в огонь подливают приложения-гуманизаторы, которые специально запутывают следы работы нейросетей. В отличие от систем поиска плагиата, которые указывают на конкретный источник в сети, детекторы генеративного текста не способны предоставить фактических доказательств, что делает их вердикты субъективными и юридически слабыми.
Еще больше новостей — у Пятого канала в мессенджере МАКС.
Искусственный интеллект Исследования Ученые +18° 755 мм рт. ст.
73% 76.13
-1.84 86.90
-2.36 🧙♀ Гороскоп на сегодня, 8 июля, для всех знаков зодиака
Нашли ошибку?
Укажите ваш email:
Отправить
Спасибо! Мы получили Ваше сообщение.
Закрыть
