zhub.link is one of the many independent Mastodon servers you can use to participate in the fediverse.

Administered by:

Server stats:

28
active users

#генеративный_ии

0 posts0 participants0 posts today

Как эффективно бороться с галлюцинациями нейросетей

Привет, я — Олег Рогов , руководитель фронтенд-разработки. В статье рассмотрю, почему искусственный интеллект (ИИ) галлюцинирует и как с этим бороться. С развитием ИИ больших языковых моделей перед пользователями встает вопрос о достоверности информации, которую они предоставляют. Иногда ИИ может выдавать ответы, которые выглядят убедительно, но на самом деле являются вымышленными или неточными. Явление, при котором языковая модель генерирует ложную информацию, получило название «галлюцинация».

habr.com/ru/companies/beeline_

ХабрКак эффективно бороться с галлюцинациями нейросетейПривет, я — Олег Рогов , руководитель фронтенд-разработки. В статье рассмотрю, почему искусственный интеллект (ИИ) галлюцинирует и как с этим бороться. С развитием ИИ больших языковых моделей...

[Перевод] Важные паттерны в создании продуктов на основе генеративного ИИ

Генеративный искусственный интеллект стремительно меняет подходы к созданию цифровых продуктов, но его внедрение в продакшн сопровождается множеством новых вызовов. От недостоверных ответов и ограничений в знаниях до проблем с эффективностью поиска — разработчики сталкиваются с препятствиями, которых не было в традиционных системах. В этой статье мы разберём ключевые паттерны, которые помогают преодолеть эти сложности: от базового взаимодействия с языковыми моделями и работы с эмбеддингами до Retrieval-Augmented Generation (RAG) и тонкой настройки (Fine-tuning).

habr.com/ru/companies/otus/art

ХабрВажные паттерны в создании продуктов на основе генеративного ИИПо мере того как программные продукты, использующие технологии генеративного искусственного интеллекта, переходят из стадии прототипирования в продакшн, выявляется ряд...

[Перевод] Нет, ваша генеративная модель меня не заменит

За последние три недели я устранил пару проблем с производительностью, что потенциально сэкономило компании несколько сотен тысяч долларов (я подрядчик, поэтому, к сожалению, не получаю никаких премий). Как я нашёл эти проблемы? Можно назвать это необъяснимой, основанной на опыте интуицией, шестым чувством нёрда; у меня просто возникло ощущение, что с системой что-то не так. За свои двадцать с лишним лет опыта я видел множество приложений и знал, что где-то в этой системе есть узкое место. Я создал тестовый сценарий, чтобы точно замерить пропускную способность системы от времени, запустил инстанс VisualVM и прошерстил десятки потоков, трассировок стеков, снэпшотов памяти и CPU. Я обнаружил проблемы, написал их исправления и запустил всё заново. Бум! Производительность возросла в десять с лишним раз. Мой начальник и коллеги были счастливы, а продуктивность повысилась. Меня похвалили, и я ощутил отдачу от выполненного долга. Но стоит помнить, что, строго говоря, это не были баги. Успешно проходили все юнит-тесты и интеграционные тесты, тесты BDD, линтеры, статический анализ кода и было выполнено несколько раундов проверок кода. Проблемы заключались в двух невинных строках кода (спрятанных среди тысяч других), казалось бы, не вызывавших никаких трудностей. Слава Богу, проблемы были найдены на этапе разработки и не затронули ни одной системы в продакшене (мои коллеги теперь могли выполнять свои тесты быстрее, поэтому скорость разработки сильно возросла).

habr.com/ru/articles/884368/?u

ХабрНет, ваша генеративная модель меня не заменитВведение За последние три недели я устранил пару проблем с производительностью, что потенциально сэкономило компании несколько сотен тысяч долларов (я подрядчик, поэтому, к сожалению, не получаю...

[Перевод] Нет, ваша генеративная модель меня не заменит

За последние три недели я устранил пару проблем с производительностью, что потенциально сэкономило компании несколько сотен тысяч долларов (я подрядчик, поэтому, к сожалению, не получаю никаких премий). Как я нашёл эти проблемы? Можно назвать это необъяснимой, основанной на опыте интуицией, шестым чувством нёрда; у меня просто возникло ощущение, что с системой что-то не так. За свои двадцать с лишним лет опыта я видел множество приложений и знал, что где-то в этой системе есть узкое место. Я создал тестовый сценарий, чтобы точно замерить пропускную способность системы от времени, запустил инстанс VisualVM и прошерстил десятки потоков, трассировок стеков, снэпшотов памяти и CPU. Я обнаружил проблемы, написал их исправления и запустил всё заново. Бум! Производительность возросла в десять с лишним раз. Мой начальник и коллеги были счастливы, а продуктивность повысилась. Меня похвалили, и я ощутил отдачу от выполненного долга. Но стоит помнить, что, строго говоря, это не были баги. Успешно проходили все юнит-тесты и интеграционные тесты, тесты BDD, линтеры, статический анализ кода и было выполнено несколько раундов проверок кода. Проблемы заключались в двух невинных строках кода (спрятанных среди тысяч других), казалось бы, не вызывавших никаких трудностей. Слава Богу, проблемы были найдены на этапе разработки и не затронули ни одной системы в продакшене (мои коллеги теперь могли выполнять свои тесты быстрее, поэтому скорость разработки сильно возросла).

habr.com/ru/articles/884368/

ХабрНет, ваша генеративная модель меня не заменитВведение За последние три недели я устранил пару проблем с производительностью, что потенциально сэкономило компании несколько сотен тысяч долларов (я подрядчик, поэтому, к сожалению, не получаю...

До 5 % новых статей «Википедии» содержат тексты от ИИ

Исследователи Принстонского университета оценили новые статьи «Википедии» на «машинность». Сравнение до и после распространения больших языковых моделей показало, что почти 5 % материалов на английском языке содержат значительные объёмы текста, который писал искусственный интеллект. В других языковых разделах этот показатель ниже, но явление выражено и там.

habr.com/ru/articles/883386/

ХабрДо 5 % новых статей «Википедии» содержат тексты от ИИРезультат анализа детекторами GPTZero и Binoculars. Как выяснилось, до 5 % из 2 909 новых (от августа 2024 года) статей в англоязычной «Википедии» содержат значительные объёмы контента,...

Один бесконечный год или помогли ли нам инопланетяне внедрить ИИ в тестирование?

Внедрение искусственного интеллекта в процессы тестирования программного обеспечения — это амбициозный и сложный проект, пилот которого мы запустили в прошлом году. Я Марина Каприз, заместитель руководителя блока качества в РСХБ-Интех. В этой статье расскажу, как был организован процесс внедрения ИИ в тестирование, с какими проблемами мы столкнулись и как их преодолели. Тестируем!

habr.com/ru/companies/rshb/art

ХабрОдин бесконечный год или помогли ли нам инопланетяне внедрить ИИ в тестирование?Внедрение искусственного интеллекта в процессы тестирования программного обеспечения — это амбициозный и сложный проект, пилот которого мы запустили в прошлом году. Я Марина Каприз, заместитель...

Генерация табличных данных с помощью языковых моделей: делаем правильно

В мире анализа данных и машинного обучения качественные табулированные данные играют ключевую роль. Однако далеко не всегда у специалистов есть доступ к реальным данным из-за конфиденциальности или их полного отсутствия в структурированном виде. В таких случаях на помощь приходят языковые модели, способные генерировать структурированные таблицы с синтетическими данными.

habr.com/ru/articles/880534/

+обучение

ХабрГенерация табличных данных с помощью языковых моделей: делаем правильноВ мире анализа данных и машинного обучения качественные табулированные данные играют ключевую роль. Однако далеко не всегда у специалистов есть доступ к реальным данным из-за конфиденциальности или их...

Сравнение визуала графических нейросетей

Хочется больше внимания уделить стилям изображений и продемонстрировать их различия на ярких примерах. Взяла 4 нейронки: Flux, Ideogram, Visual Electric и конечно же Midjourney. Чтобы никто не отвлекался на лица, в промпте указала, что девушка бежит спиной к зрителю. Отправной точкой в нашем сравнении будет картинка из Флакса.

habr.com/ru/articles/880172/

ХабрСравнение визуала графических нейросетейХочется больше внимания уделить стилям изображений и продемонстрировать их различия на ярких примерах. Взяла 4 нейронки: Flux, Ideogram, Visual Electric и конечно же Midjourney. Чтобы никто не...

Как оценить качество чат-бота? Бот с LLM vs бот на интентах по новой методологии usability-тестирования

Привет, Хабр! Я Юля, дизайнер диалоговых интерфейсов в Just AI. Мир захлестнула LLM-волна, и сфера чат-ботов оказалась в самом ее центре: все больше компаний хотят внедрять именно генеративные решения. В этой статье я расскажу о том, как мы провели эксперимент и сравнили старую версию бота и новую — с нейросетью под капотом. Одним из результатов эксперимента стала методика оценки качества, которой я также поделюсь в этой статье.

habr.com/ru/companies/just_ai/

ХабрКак оценить качество чат-бота? Бот с LLM vs бот на интентах по новой методологии usability-тестированияПривет, Хабр! Я Юля, дизайнер диалоговых интерфейсов в Just AI. Мир захлестнула LLM-волна, и сфера чат-ботов оказалась в самом ее центре: все больше компаний хотят внедрять именно генеративные...

[Перевод] Как видят свои главные задачи 12 тысяч опрошенных ИТ-директоров

Как считают аналитики Gartner, в 2025 году ИТ-директора столкнутся с рядом задач, от решения которых зависит успешность развития их компании. На первое место Gartner поставил умение извлекать пользу из такого инструмента управления, как генеративный искусственный интеллект (ИИ). Далее идут способность работать с данными и аналитикой, минимизировать риски киберугроз, доносить до бизнеса ценность внедрения новых технологий. Хабр-редакция КРОК подготовила перевод исследования Gartner о том, какие алгоритмы решений поставленных задач могут пригодиться в наступившем году ИТ-директорам и насколько эти решения могут быть эффективными. Исследование мы представили в четырех частях. Читайте об этом под катом.

habr.com/ru/companies/croc/art

ХабрКак видят свои главные задачи 12 тысяч опрошенных ИТ-директоровКак считают аналитики Gartner, в 2025 году ИТ-директора столкнутся с рядом задач, от решения которых зависит успешность развития их компании. На первое место Gartner поставил умение извлекать пользу...

Fab Tool, или опыт создания сложного генеративного видео

Я большой фанат французского электронного музыканта Франка Уэзо, более известного под псевдонимом Carpenter Brut, и в качестве автора малобюджетного видео я давно мечтал создать ремейк культового видео Fab Tool . Клип этот, сам по себе довольно скромный в производстве, всегда казался мне невероятно выразительным именно благодаря особой атмосфере, которую можно было бы воссоздать или даже усилить в римейке, а в наше время нейрогенеративного всего римейкизируют буквально что угодно, так что рано или поздно план был бы реализован, однако путь к искомому результату в итоге оказался куда более тернистым, чем представлялось изначально. Эта история началась полтора года назад, летом 2023 года, когда вышла пятая версия MidJourney, стал доступен Gen-2 от Runway, а в Discord появились генеративные боты Pika и Suno. Таким образом, сформировался полноценный набор инструментов для создания AI-видео, в котором и картинка, и анимация, и музыка создавались бы нейросетями. Однако мои радужные ожидания быстро разбились тогда о технические ограничения. Инструменты были сырыми, а первые результаты — далеки от идеала.

habr.com/ru/articles/873324/

ХабрFab Tool, или опыт создания сложного генеративного видеоЯ большой фанат французского электронного музыканта Франка Уэзо, более известного под псевдонимом Carpenter Brut, и в качестве автора малобюджетного видео я давно мечтал создать ремейк культового...

[Перевод] GraphRAG: Повышение точности и полноты GenAI

GraphRAG предоставляет «граф знаний» LLM. В отличие от текстовых документов, эти структуры данных четко отображают взаимосвязи между объектами.

habr.com/ru/articles/870690/

ХабрGraphRAG: Повышение точности и полноты GenAIGraphRAG предоставляет «граф знаний» LLM. В отличие от текстовых документов, эти структуры данных четко отображают взаимосвязи между объектами. Компании применяют генеративный ИИ в широком спектре...
#genai#rag#llm

[Перевод] Как предсказательный ИИ может изменить работу разработчиков

Привет, на связи Юлия Рогозина, аналитик бизнес-процессов Шерпа Роботикс. Сегодня я перевела для вас статью, в которой рассмотрены альтернативы генеративному ИИ. Статья будет полезна для разработчиков, которые хотят учитывать и другие формы машинного обучения при создании своих приложений.

habr.com/ru/companies/sherpa_r

ХабрКак предсказательный ИИ может изменить работу разработчиковПривет, на связи Юлия Рогозина, аналитик бизнес-процессов Шерпа Роботикс. Сегодня я перевела для вас статью, в которой рассмотрены альтернативы генеративному ИИ. Статья будет полезна для...

ЕВРАЗ доверил ревизию кода ИИ

Недавно прошёл Хакатон ЕВРАЗа 3.0, на котором участникам поставили задачу упростить и ускорить важный процесс разработки — code review. Эта сложная и трудоемкая часть работы программистов, которая требует предельной концентрации и широкого опыта специалистов. Хакатон предоставил возможность не только найти новые идеи для автоматизации, но и продемонстрировать потенциал ИИ для повышения качества кода. Если тема цифровых технологий в металлургической промышленности интересует и вас, приглашаем поближе познакомиться с решениями победителей.

habr.com/ru/companies/evraz/ar

ХабрЕВРАЗ доверил ревизию кода ИИНедавно прошёл Хакатон ЕВРАЗа 3.0, на котором участникам поставили задачу упростить и ускорить важный процесс разработки — code review. Эта сложная и трудоемкая часть работы программистов, которая...

[Перевод] Становится ли лицо знакомого — обманом? Риски и защита в мире дипфейков и ИИ

Благодаря широкому распространению инструментов ИИ сегодня один человек может с небывалой прежде легкостью выдать себя за другого, но ведущие компании принимают ответные меры и внедряют соответствующие политики и технологии. Осенью прошлого года завирусился ролик с Томом Хэнксом, в котором он рекламирует стоматологию, однако сам актер не участвовал в съемках. На самом деле кто-то просто воспользовался схожестью с актером и применил технологию deepfake («дипфейк»), чтобы создать подделку. Инцидент в духе времени: можно создать убедительную иллюзию, в которой любой человек будет говорить или делать что угодно. Стремительное развитие генеративного ИИ породило массу нового контента, который достиг такого уровня, что практически невозможно отличить, где реальность, а где то, что создано бездушной машиной. Читайте новую главу отчета Tech Trends 2024 от Deloitte в переводе Хабр-редакции КРОК под катом!

habr.com/ru/companies/croc/art

ХабрСтановится ли лицо знакомого — обманом? Риски и защита в мире дипфейков и ИИБлагодаря широкому распространению инструментов ИИ сегодня один человек может с небывалой прежде легкостью выдать себя за другого, но ведущие компании принимают ответные меры и внедряют...

[Перевод] Сгенерированный ИИ код сделает вас плохим программистом

Возможно, вас это устроит, если вы не стремитесь к самосовершенствованию и не хотите гордиться своей работой. Для начала уточню, что под использованием сгенерированного ИИ кода я подразумеваю ситуацию, когда ИИ пишет код за вас, а не когда вы используете ИИ как инструмент обучения, чтобы лучше познать тонкости языков программирования и библиотек (по этому поводу у меня тоже есть своё мнение). Но если вы когда-нибудь применяли эти инструменты для того, чтобы ИИ писал код на основании имён методов или комментариев с нечётко описанной функциональностью, или вы используете ИИ для изучения и понимания собственной кодовой базы, чтобы не делать этого самостоятельно, то эта статья — про для вас.

habr.com/ru/companies/ruvds/ar

ХабрСгенерированный ИИ код сделает вас плохим программистомВозможно, вас это устроит, если вы не стремитесь к самосовершенствованию и не хотите гордиться своей работой. Для начала уточню, что под использованием сгенерированного ИИ кода я подразумеваю...

ИИ без иллюзий. Развенчивание мифов

В своем подкасте я грозился сам почитать статью GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models ученых из Apple и разобраться. Почитал. Разобрался. Забавная статья. Забавная не по содержанию, а по выводам, которые можно сделать, если читать между строк и выйти за границы статьи.

habr.com/ru/articles/850252/

ХабрИИ без иллюзий. Развенчивание мифовВ своем подкасте я грозился сам почитать статью GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models ученых из Apple и разобраться. Почитал. Разобрался....
#gpt#llm#apple

Как сделать себя в модной нейронке Flux (лёгкий путь без смс и регистрации)

Среди топовых картиночных генераторов у всех на устах Flux. Недавно она еще и обновилась, но первая версия отличная, прекрасно генерит фотореалистичных человечков и вообще, в целом, кайфовая штука, к.м.к. Покажу, как дотренировать её на своих фотках, чтоб можно было генерить себя любимого/мую в разных ракурсах. Раньше дотренивать можно было только с бубном или платными сервисами. Сейчас есть возможность локально это сделать, нужна лишь более-менее нормальная видюха. Туториал, в целом, ориентирован на начальный уровень, надеюсь, будет легко.

habr.com/ru/articles/848488/

ХабрКак сделать себя в модной нейронке Flux (лёгкий путь без смс и регистрации)Среди топовых картиночных генераторов у всех на устах Flux. Недавно она обновилась и стала какой‑то прям совсем шустрой, но новая версия тяжелая и локально она недоступна, увы....

[Перевод] Выпустили джинна из бутылки: генеративный ИИ – катализатор роста

С момента появления генеративного ИИ многие компании пытаются понять, какую выгоду из него можно извлечь для развития бизнеса. Ответ может быть проще, чем кажется. С 2015 года практически любое применение машинного обучения стали называть искусственным интеллектом. Некоторые обозреватели и отраслевые эксперты были с этим не согласны. По их мнению, речь шла лишь о сопоставлении поступающих на вход данных с образцом и последующей выдаче результата. Модели не думали, а скорее вычисляли вероятности. Так как же они могли обладать интеллектом? Читайте новую главу отчета Tech Trends от Deloitte в переводе Хабр-редакции КРОК под катом!

habr.com/ru/companies/croc/art

ХабрВыпустили джинна из бутылки: генеративный ИИ – катализатор ростаС момента появления генеративного ИИ многие компании пытаются понять, какую выгоду из него можно извлечь для развития бизнеса. Ответ может быть проще, чем кажется. С 2015 года практически любое...