Как эффективно бороться с галлюцинациями нейросетей

Привет, я — Олег Рогов , руководитель фронтенд-разработки. В статье рассмотрю, почему искусственный интеллект (ИИ) галлюцинирует и как с этим бороться. С развитием ИИ больших языковых моделей перед пользователями встает вопрос о достоверности информации, которую они предоставляют. Иногда ИИ может выдавать ответы, которые выглядят убедительно, но на самом деле являются вымышленными или неточными. Явление, при котором языковая модель генерирует ложную информацию, получило название «галлюцинация».

https://habr.com/ru/companies/beeline_cloud/articles/886706/

[Перевод] Важные паттерны в создании продуктов на основе генеративного ИИ

Генеративный искусственный интеллект стремительно меняет подходы к созданию цифровых продуктов, но его внедрение в продакшн сопровождается множеством новых вызовов. От недостоверных ответов и ограничений в знаниях до проблем с эффективностью поиска — разработчики сталкиваются с препятствиями, которых не было в традиционных системах. В этой статье мы разберём ключевые паттерны, которые помогают преодолеть эти сложности: от базового взаимодействия с языковыми моделями и работы с эмбеддингами до Retrieval-Augmented Generation (RAG) и тонкой настройки (Fine-tuning).

https://habr.com/ru/companies/otus/articles/886696/

[Перевод] Нет, ваша генеративная модель меня не заменит

За последние три недели я устранил пару проблем с производительностью, что потенциально сэкономило компании несколько сотен тысяч долларов (я подрядчик, поэтому, к сожалению, не получаю никаких премий). Как я нашёл эти проблемы? Можно назвать это необъяснимой, основанной на опыте интуицией, шестым чувством нёрда; у меня просто возникло ощущение, что с системой что-то не так. За свои двадцать с лишним лет опыта я видел множество приложений и знал, что где-то в этой системе есть узкое место. Я создал тестовый сценарий, чтобы точно замерить пропускную способность системы от времени, запустил инстанс VisualVM и прошерстил десятки потоков, трассировок стеков, снэпшотов памяти и CPU. Я обнаружил проблемы, написал их исправления и запустил всё заново. Бум! Производительность возросла в десять с лишним раз. Мой начальник и коллеги были счастливы, а продуктивность повысилась. Меня похвалили, и я ощутил отдачу от выполненного долга. Но стоит помнить, что, строго говоря, это не были баги. Успешно проходили все юнит-тесты и интеграционные тесты, тесты BDD, линтеры, статический анализ кода и было выполнено несколько раундов проверок кода. Проблемы заключались в двух невинных строках кода (спрятанных среди тысяч других), казалось бы, не вызывавших никаких трудностей. Слава Богу, проблемы были найдены на этапе разработки и не затронули ни одной системы в продакшене (мои коллеги теперь могли выполнять свои тесты быстрее, поэтому скорость разработки сильно возросла).

https://habr.com/ru/articles/884368/?utm_source=habrahabr&utm_medium=rss&utm_campaign=884368

[Перевод] Нет, ваша генеративная модель меня не заменит

За последние три недели я устранил пару проблем с производительностью, что потенциально сэкономило компании несколько сотен тысяч долларов (я подрядчик, поэтому, к сожалению, не получаю никаких премий). Как я нашёл эти проблемы? Можно назвать это необъяснимой, основанной на опыте интуицией, шестым чувством нёрда; у меня просто возникло ощущение, что с системой что-то не так. За свои двадцать с лишним лет опыта я видел множество приложений и знал, что где-то в этой системе есть узкое место. Я создал тестовый сценарий, чтобы точно замерить пропускную способность системы от времени, запустил инстанс VisualVM и прошерстил десятки потоков, трассировок стеков, снэпшотов памяти и CPU. Я обнаружил проблемы, написал их исправления и запустил всё заново. Бум! Производительность возросла в десять с лишним раз. Мой начальник и коллеги были счастливы, а продуктивность повысилась. Меня похвалили, и я ощутил отдачу от выполненного долга. Но стоит помнить, что, строго говоря, это не были баги. Успешно проходили все юнит-тесты и интеграционные тесты, тесты BDD, линтеры, статический анализ кода и было выполнено несколько раундов проверок кода. Проблемы заключались в двух невинных строках кода (спрятанных среди тысяч других), казалось бы, не вызывавших никаких трудностей. Слава Богу, проблемы были найдены на этапе разработки и не затронули ни одной системы в продакшене (мои коллеги теперь могли выполнять свои тесты быстрее, поэтому скорость разработки сильно возросла).

https://habr.com/ru/articles/884368/

До 5 % новых статей «Википедии» содержат тексты от ИИ

Исследователи Принстонского университета оценили новые статьи «Википедии» на «машинность». Сравнение до и после распространения больших языковых моделей показало, что почти 5 % материалов на английском языке содержат значительные объёмы текста, который писал искусственный интеллект. В других языковых разделах этот показатель ниже, но явление выражено и там.

https://habr.com/ru/articles/883386/

Один бесконечный год или помогли ли нам инопланетяне внедрить ИИ в тестирование?

Внедрение искусственного интеллекта в процессы тестирования программного обеспечения — это амбициозный и сложный проект, пилот которого мы запустили в прошлом году. Я Марина Каприз, заместитель руководителя блока качества в РСХБ-Интех. В этой статье расскажу, как был организован процесс внедрения ИИ в тестирование, с какими проблемами мы столкнулись и как их преодолели. Тестируем!

https://habr.com/ru/companies/rshb/articles/881866/

Генерация табличных данных с помощью языковых моделей: делаем правильно

В мире анализа данных и машинного обучения качественные табулированные данные играют ключевую роль. Однако далеко не всегда у специалистов есть доступ к реальным данным из-за конфиденциальности или их полного отсутствия в структурированном виде. В таких случаях на помощь приходят языковые модели, способные генерировать структурированные таблицы с синтетическими данными.

https://habr.com/ru/articles/880534/

#синтетические_данные #генеративный_ии #машинное+обучение

Сравнение визуала графических нейросетей

Хочется больше внимания уделить стилям изображений и продемонстрировать их различия на ярких примерах. Взяла 4 нейронки: Flux, Ideogram, Visual Electric и конечно же Midjourney. Чтобы никто не отвлекался на лица, в промпте указала, что девушка бежит спиной к зрителю. Отправной точкой в нашем сравнении будет картинка из Флакса.

https://habr.com/ru/articles/880172/

Как оценить качество чат-бота? Бот с LLM vs бот на интентах по новой методологии usability-тестирования

Привет, Хабр! Я Юля, дизайнер диалоговых интерфейсов в Just AI. Мир захлестнула LLM-волна, и сфера чат-ботов оказалась в самом ее центре: все больше компаний хотят внедрять именно генеративные решения. В этой статье я расскажу о том, как мы провели эксперимент и сравнили старую версию бота и новую — с нейросетью под капотом. Одним из результатов эксперимента стала методика оценки качества, которой я также поделюсь в этой статье.

https://habr.com/ru/companies/just_ai/articles/879370/

[Перевод] Как видят свои главные задачи 12 тысяч опрошенных ИТ-директоров

Как считают аналитики Gartner, в 2025 году ИТ-директора столкнутся с рядом задач, от решения которых зависит успешность развития их компании. На первое место Gartner поставил умение извлекать пользу из такого инструмента управления, как генеративный искусственный интеллект (ИИ). Далее идут способность работать с данными и аналитикой, минимизировать риски киберугроз, доносить до бизнеса ценность внедрения новых технологий. Хабр-редакция КРОК подготовила перевод исследования Gartner о том, какие алгоритмы решений поставленных задач могут пригодиться в наступившем году ИТ-директорам и насколько эти решения могут быть эффективными. Исследование мы представили в четырех частях. Читайте об этом под катом.

https://habr.com/ru/companies/croc/articles/878010/

Fab Tool, или опыт создания сложного генеративного видео

Я большой фанат французского электронного музыканта Франка Уэзо, более известного под псевдонимом Carpenter Brut, и в качестве автора малобюджетного видео я давно мечтал создать ремейк культового видео Fab Tool . Клип этот, сам по себе довольно скромный в производстве, всегда казался мне невероятно выразительным именно благодаря особой атмосфере, которую можно было бы воссоздать или даже усилить в римейке, а в наше время нейрогенеративного всего римейкизируют буквально что угодно, так что рано или поздно план был бы реализован, однако путь к искомому результату в итоге оказался куда более тернистым, чем представлялось изначально. Эта история началась полтора года назад, летом 2023 года, когда вышла пятая версия MidJourney, стал доступен Gen-2 от Runway, а в Discord появились генеративные боты Pika и Suno. Таким образом, сформировался полноценный набор инструментов для создания AI-видео, в котором и картинка, и анимация, и музыка создавались бы нейросетями. Однако мои радужные ожидания быстро разбились тогда о технические ограничения. Инструменты были сырыми, а первые результаты — далеки от идеала.

https://habr.com/ru/articles/873324/

[Перевод] GraphRAG: Повышение точности и полноты GenAI

GraphRAG предоставляет «граф знаний» LLM. В отличие от текстовых документов, эти структуры данных четко отображают взаимосвязи между объектами.

https://habr.com/ru/articles/870690/

[Перевод] Как предсказательный ИИ может изменить работу разработчиков

Привет, на связи Юлия Рогозина, аналитик бизнес-процессов Шерпа Роботикс. Сегодня я перевела для вас статью, в которой рассмотрены альтернативы генеративному ИИ. Статья будет полезна для разработчиков, которые хотят учитывать и другие формы машинного обучения при создании своих приложений.

https://habr.com/ru/companies/sherpa_rpa/articles/867356/

ЕВРАЗ доверил ревизию кода ИИ

Недавно прошёл Хакатон ЕВРАЗа 3.0, на котором участникам поставили задачу упростить и ускорить важный процесс разработки — code review. Эта сложная и трудоемкая часть работы программистов, которая требует предельной концентрации и широкого опыта специалистов. Хакатон предоставил возможность не только найти новые идеи для автоматизации, но и продемонстрировать потенциал ИИ для повышения качества кода. Если тема цифровых технологий в металлургической промышленности интересует и вас, приглашаем поближе познакомиться с решениями победителей.

https://habr.com/ru/companies/evraz/articles/865456/

«Охота на электроовец: большая книга искусственного интеллекта» или как написать книгу про ИИ без регистрации и SMS

История о том, как за 6 лет я написал двухтомник, посвящённый искусственному интеллекту и машинному обучению

https://habr.com/ru/articles/862150/

[Перевод] Становится ли лицо знакомого — обманом? Риски и защита в мире дипфейков и ИИ

Благодаря широкому распространению инструментов ИИ сегодня один человек может с небывалой прежде легкостью выдать себя за другого, но ведущие компании принимают ответные меры и внедряют соответствующие политики и технологии. Осенью прошлого года завирусился ролик с Томом Хэнксом, в котором он рекламирует стоматологию, однако сам актер не участвовал в съемках. На самом деле кто-то просто воспользовался схожестью с актером и применил технологию deepfake («дипфейк»), чтобы создать подделку. Инцидент в духе времени: можно создать убедительную иллюзию, в которой любой человек будет говорить или делать что угодно. Стремительное развитие генеративного ИИ породило массу нового контента, который достиг такого уровня, что практически невозможно отличить, где реальность, а где то, что создано бездушной машиной. Читайте новую главу отчета Tech Trends 2024 от Deloitte в переводе Хабр-редакции КРОК под катом!

https://habr.com/ru/companies/croc/articles/854678/

[Перевод] Сгенерированный ИИ код сделает вас плохим программистом

Возможно, вас это устроит, если вы не стремитесь к самосовершенствованию и не хотите гордиться своей работой. Для начала уточню, что под использованием сгенерированного ИИ кода я подразумеваю ситуацию, когда ИИ пишет код за вас, а не когда вы используете ИИ как инструмент обучения, чтобы лучше познать тонкости языков программирования и библиотек (по этому поводу у меня тоже есть своё мнение). Но если вы когда-нибудь применяли эти инструменты для того, чтобы ИИ писал код на основании имён методов или комментариев с нечётко описанной функциональностью, или вы используете ИИ для изучения и понимания собственной кодовой базы, чтобы не делать этого самостоятельно, то эта статья — про для вас.

https://habr.com/ru/companies/ruvds/articles/853996/

ИИ без иллюзий. Развенчивание мифов

В своем подкасте я грозился сам почитать статью GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models ученых из Apple и разобраться. Почитал. Разобрался. Забавная статья. Забавная не по содержанию, а по выводам, которые можно сделать, если читать между строк и выйти за границы статьи.

https://habr.com/ru/articles/850252/

Как сделать себя в модной нейронке Flux (лёгкий путь без смс и регистрации)

Среди топовых картиночных генераторов у всех на устах Flux. Недавно она еще и обновилась, но первая версия отличная, прекрасно генерит фотореалистичных человечков и вообще, в целом, кайфовая штука, к.м.к. Покажу, как дотренировать её на своих фотках, чтоб можно было генерить себя любимого/мую в разных ракурсах. Раньше дотренивать можно было только с бубном или платными сервисами. Сейчас есть возможность локально это сделать, нужна лишь более-менее нормальная видюха. Туториал, в целом, ориентирован на начальный уровень, надеюсь, будет легко.

https://habr.com/ru/articles/848488/

[Перевод] Выпустили джинна из бутылки: генеративный ИИ – катализатор роста

С момента появления генеративного ИИ многие компании пытаются понять, какую выгоду из него можно извлечь для развития бизнеса. Ответ может быть проще, чем кажется. С 2015 года практически любое применение машинного обучения стали называть искусственным интеллектом. Некоторые обозреватели и отраслевые эксперты были с этим не согласны. По их мнению, речь шла лишь о сопоставлении поступающих на вход данных с образцом и последующей выдаче результата. Модели не думали, а скорее вычисляли вероятности. Так как же они могли обладать интеллектом? Читайте новую главу отчета Tech Trends от Deloitte в переводе Хабр-редакции КРОК под катом!

https://habr.com/ru/companies/croc/articles/845968/