antony_w (antony_w) wrote,
antony_w
antony_w

Category:

Новый ИИ определяет текст, написанный ИИ



Алгоритмы искусственного интеллекта (ИИ) уже могут генерировать достаточно убедительный текст, который будет похож на человеческий. Ученые беспокоятся, что это будет новый способ производства фальшивых новостей. Однако теперь ИИ может определять и поддельные тексты, которые написал ИИ.

Исследователи из Гарвардского университета и Лаборатории искусственного интеллекта Массачусетского технологического института разработали новый инструмент для обнаружения текста, который создали с помощью ИИ. Он использует то, что генераторы текста ИИ полагаются на стилистические шаблоны в тексте, а не на фактическое значение слов и предложений. Другими словами, инструмент может определить, кажутся ли слова, которые вы читаете, слишком предсказуемыми для человека.

Исследователи отметили, что дезинформация становится все более автоматизированной, и технологии, необходимые для создания фальшивых текстов и изображений, быстро развиваются. Такие инструменты на базе ИИ могут стать ценным оружием в борьбе против фальшивых новостей, в том числе, в социальных сетях.

Программа GLTR выделяет слова, которые могут появиться после предыдущего слова в тексте. При тестировании на фрагментах текста, написанных алгоритмом OpenAI, он находит много предсказуемых оборотов. При этом подлинные новости, написанные человеком, статистически содержат меньше оборотов, которые можно угадать из контекста.

Ученые попросили студентов Гарвардского университета идентифицировать текст, сгенерированный ИИ сначала без этого инструмента, а затем с помощью него. Студенты смогли обнаружить только половину фальшивых текстов самостоятельно, а с помощью ИИ — 72%.

Tags: искусственный интеллект
Subscribe

Posts from This Journal “искусственный интеллект” Tag

promo nemihail 16:00, yesterday 110
Buy for 20 tokens
Узнал несколько фактов о самом обычном домовом лифте. Оказывается, практически любой лифт в среднем за один месяц проезжает до 3 тыс км. Фактически он может 1 раз за месяц, смотаться в Крым и вернуться обратно;) За весь свой срок службы он легко пройдёт свыше 500 тыс км и соверш до 3 млн…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 2 comments