Mastodon on ZHub

HabrДо 5 % новых статей «Википедии» содержат тексты от ИИИсследователи Принстонского университета оценили новые статьи «Википедии» на «машинность». Сравнение до и после распространения больших языковых моделей показало, что почти 5 % материалов на английском языке содержат значительные объёмы текста, который писал искусственный интеллект. В других языковых разделах этот показатель ниже, но явление выражено и там.<a href="https://habr.com/ru/articles/883386/" target="_blank" rel="nofollow noopener noreferrer" translate="no">https://habr.com/ru/articles/883386/</a><a href="https://zhub.link/tags/%D0%92%D0%B8%D0%BA%D0%B8%D0%BF%D0%B5%D0%B4%D0%B8%D1%8F" class="mention hashtag" rel="tag">#Википедия</a> <a href="https://zhub.link/tags/GPTZero" class="mention hashtag" rel="tag">#GPTZero</a> <a href="https://zhub.link/tags/Binoculars" class="mention hashtag" rel="tag">#Binoculars</a> <a href="https://zhub.link/tags/%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8" class="mention hashtag" rel="tag">#большие_языковые_модели</a> <a href="https://zhub.link/tags/%D0%91%D0%AF%D0%9C" class="mention hashtag" rel="tag">#БЯМ</a> <a href="https://zhub.link/tags/slop" class="mention hashtag" rel="tag">#slop</a> <a href="https://zhub.link/tags/%D0%BD%D0%B0%D1%83%D1%87%D0%BD%D1%8B%D0%B5_%D1%80%D0%B0%D0%B1%D0%BE%D1%82%D1%8B" class="mention hashtag" rel="tag">#научные_работы</a> <a href="https://zhub.link/tags/%D1%81%D1%82%D0%B0%D1%82%D0%B8%D1%81%D1%82%D0%B8%D0%BA%D0%B0" class="mention hashtag" rel="tag">#статистика</a> <a href="https://zhub.link/tags/%D0%B4%D0%B5%D1%82%D0%B5%D0%BA%D1%82%D0%BE%D1%80%D1%8B_%D0%98%D0%98" class="mention hashtag" rel="tag">#детекторы_ИИ</a> <a href="https://zhub.link/tags/%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%82%D0%B8%D0%B2%D0%BD%D1%8B%D0%B9_%D0%B8%D0%B8" class="mention hashtag" rel="tag">#генеративный_ии</a>

HabrМетод Binoculars обещает высокую точность обнаружения текста от больших языковых моделейChatGPT пишет не хуже человека, но можно ли обнаружить «машинность» в тексте? Хотя некоторым компаниям было бы выгоднее представить всё так, будто результат работы языковых моделей неотличим от человеческого, исследования в этом направлении активно ведутся. Авторы научной статьи «Spotting LLMs With Binoculars: Zero-Shot Detection of Machine-Generated Text» ( arXiv:2401.12070 ) утверждают, что их метод имеет низкий уровень ложноположительных срабатываний (0,01 %), правильно обнаруживает текст от языковых моделей в 90 % случаев и работает для нескольких семейств современных продуктов.<a href="https://habr.com/ru/articles/789466/" target="_blank" rel="nofollow noopener noreferrer" translate="no">https://habr.com/ru/articles/789466/</a><a href="https://zhub.link/tags/LLM" class="mention hashtag" rel="tag">#LLM</a> <a href="https://zhub.link/tags/%D0%91%D0%AF%D0%9C" class="mention hashtag" rel="tag">#БЯМ</a> <a href="https://zhub.link/tags/large_language_model" class="mention hashtag" rel="tag">#large_language_model</a> <a href="https://zhub.link/tags/%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B0%D1%8F_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D0%B0%D1%8F_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D1%8C" class="mention hashtag" rel="tag">#большая_языковая_модель</a> <a href="https://zhub.link/tags/large_language_models" class="mention hashtag" rel="tag">#large_language_models</a> <a href="https://zhub.link/tags/%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D1%8F%D0%B7%D1%8B%D0%BA%D0%BE%D0%B2%D1%8B%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8" class="mention hashtag" rel="tag">#большие_языковые_модели</a> <a href="https://zhub.link/tags/OpenAI" class="mention hashtag" rel="tag">#OpenAI</a> <a href="https://zhub.link/tags/Binoculars" class="mention hashtag" rel="tag">#Binoculars</a> <a href="https://zhub.link/tags/%D0%98%D0%98" class="mention hashtag" rel="tag">#ИИ</a> <a href="https://zhub.link/tags/%D0%B8%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82" class="mention hashtag" rel="tag">#искусственный_интеллект</a> <a href="https://zhub.link/tags/%D0%BE%D0%B1%D0%BD%D0%B0%D1%80%D1%83%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5_%D0%BC%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B3%D0%BE_%D1%82%D0%B5%D0%BA%D1%81%D1%82%D0%B0" class="mention hashtag" rel="tag">#обнаружение_машинного_текста</a> <a href="https://zhub.link/tags/%D0%B0%D0%BD%D1%82%D0%B8%D1%81%D0%BF%D0%B0%D0%BC" class="mention hashtag" rel="tag">#антиспам</a> <a href="https://zhub.link/tags/GPTZero" class="mention hashtag" rel="tag">#GPTZero</a> <a href="https://zhub.link/tags/DetectGPT" class="mention hashtag" rel="tag">#DetectGPT</a> <a href="https://zhub.link/tags/Ghostbuster" class="mention hashtag" rel="tag">#Ghostbuster</a> <a href="https://zhub.link/tags/ChatGPT" class="mention hashtag" rel="tag">#ChatGPT</a> <a href="https://zhub.link/tags/GPT3" class="mention hashtag" rel="tag">#GPT3</a> <a href="https://zhub.link/tags/GPT4" class="mention hashtag" rel="tag">#GPT4</a> <a href="https://zhub.link/tags/Falcon" class="mention hashtag" rel="tag">#Falcon</a> <a href="https://zhub.link/tags/Falcon7B" class="mention hashtag" rel="tag">#Falcon7B</a> <a href="https://zhub.link/tags/Falcon7Binstruct" class="mention hashtag" rel="tag">#Falcon7Binstruct</a>

Recent searches

Search options

Administered by:

Server stats:

#GPTZero