#сверхинтеллект

0 posts0 participants0 posts today

HabrЭкзистенциальные угрозы AI. Что ждёт человечество, если появится искусственный сверхинтеллектРазбираемся в философии сознания и попутно отвечаем на вопросы — возможен ли сверхинтеллект, и насколько опасно развитие AI Об угрозе человечеству со стороны машин учёные и философы говорят уже не одно столетие. Но если раньше критиковали механизацию искусства и гонку вооружений, теперь опасность исходит от искусственного интеллекта. В самом деле, современная угроза по масштабам несопоставима. Для развития ядерных технологий необходимы ресурсы целых государств. А небольшая команда талантливых инженеров может за несколько строчек кода перевернуть историю человечества. Достаточно научить AI-алгоритм улучшать самого себя — тогда, согласно концепции «взрыва интеллекта», произойдёт скачок AI до уровня суперинтеллекта. Последствия — непредсказуемы.<a href="https://habr.com/ru/companies/redmadrobot/articles/878152/" target="_blank" rel="nofollow noopener noreferrer" translate="no">https://habr.com/ru/companies/redmadrobot/articles/878152/</a><a href="https://zhub.link/tags/ai" class="mention hashtag" rel="tag">#ai</a> <a href="https://zhub.link/tags/%D0%B8%D0%B8" class="mention hashtag" rel="tag">#ии</a> <a href="https://zhub.link/tags/%D1%81%D0%B2%D0%B5%D1%80%D1%85%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82" class="mention hashtag" rel="tag">#сверхинтеллект</a> <a href="https://zhub.link/tags/%D1%81%D1%83%D0%BF%D0%B5%D1%80%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82" class="mention hashtag" rel="tag">#суперинтеллект</a> <a href="https://zhub.link/tags/%D0%B1%D1%83%D0%B4%D1%83%D1%89%D0%B5%D0%B5" class="mention hashtag" rel="tag">#будущее</a> <a href="https://zhub.link/tags/agi" class="mention hashtag" rel="tag">#agi</a> <a href="https://zhub.link/tags/%D1%84%D0%B8%D0%BB%D0%BE%D1%81%D0%BE%D1%84%D0%B8%D1%8F" class="mention hashtag" rel="tag">#философия</a> <a href="https://zhub.link/tags/%D1%84%D0%B8%D0%BB%D0%BE%D1%81%D0%BE%D1%84%D0%B8%D1%8F_%D0%B8%D0%B8" class="mention hashtag" rel="tag">#философия_ии</a> <a href="https://zhub.link/tags/%D1%84%D0%B8%D0%BB%D0%BE%D1%81%D0%BE%D1%84%D0%B8%D1%8F_%D1%81%D0%BE%D0%B7%D0%BD%D0%B0%D0%BD%D0%B8%D1%8F" class="mention hashtag" rel="tag">#философия_сознания</a>

Habr[Перевод] Искусственный интеллект и экзистенциальный кризисСуществует пласт опасений, что искусственный интеллект способен стать угрозой существования человечества. При этом речь идет как о сценариях уничтожения в «пепле ядерной войны», так и «серой ассимиляции», что показал фильм «Превосходство». Но, согласно с новым исследованием, большие языковые модели (LLM) могут только следовать инструкциям, не могут самостоятельно развивать новые навыки и по своей сути «контролируемы, предсказуемы и безопасны», что звучит как хорошая новость для нас, кожаных мешков с мясом.<a href="https://habr.com/ru/articles/836904/" target="_blank" rel="nofollow noopener noreferrer" translate="no">https://habr.com/ru/articles/836904/</a><a href="https://zhub.link/tags/%D0%B8%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9_%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82" class="mention hashtag" rel="tag">#искусственный_интеллект</a> <a href="https://zhub.link/tags/%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B5%D1%82%D0%B8" class="mention hashtag" rel="tag">#нейросети</a> <a href="https://zhub.link/tags/%D1%80%D0%B0%D0%B1%D0%BE%D1%82%D0%B0_%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B5%D1%82%D0%B5%D0%B9" class="mention hashtag" rel="tag">#работа_нейросетей</a> <a href="https://zhub.link/tags/%D0%BF%D1%80%D0%B5%D0%B2%D0%BE%D1%81%D1%85%D0%BE%D0%B4%D1%81%D1%82%D0%B2%D0%BE" class="mention hashtag" rel="tag">#превосходство</a> <a href="https://zhub.link/tags/%D1%81%D1%83%D0%BF%D0%B5%D1%80%D0%BA%D0%BE%D0%BC%D0%BF%D1%8C%D1%8E%D1%82%D0%B5%D1%80" class="mention hashtag" rel="tag">#суперкомпьютер</a> <a href="https://zhub.link/tags/%D1%81%D0%B2%D0%B5%D1%80%D1%85%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82" class="mention hashtag" rel="tag">#сверхинтеллект</a> <a href="https://zhub.link/tags/%D1%80%D0%B0%D0%B7%D0%B2%D0%B8%D1%82%D0%B8%D0%B5_%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82%D0%B0" class="mention hashtag" rel="tag">#развитие_интеллекта</a>

HabrДо AGI и ASI осталось 20 лет: почему до восстания ИИ ещё далекоПомните ту фольклорную фразу? "До управляемого термоядерного синтеза осталось 20 лет. " И сколько бы лет не прошло, мы находимся всё в тех же 20 годах от него. Однако модели ИИ прогрессируют крайне быстро. Далёкие от технологий люди уже задумались о сюжетах Матрицы и Терминатора. Чуть более продвинутые технооптимисты ждут AGI или сингулярность, чтобы получать безусловный базовый доход и не работать, а технофобы консерваторы говорят, что всё нужно ограничить и запретить (ха-ха). Локальные запреты в отдельных странах усилят их глобальное отставание, а страны без запретов получат преимущество. Так что процесс развития нейросетей необратим. Дропдаун<a href="https://habr.com/ru/companies/servermall/articles/819973/" target="_blank" rel="nofollow noopener noreferrer" translate="no">https://habr.com/ru/companies/servermall/articles/819973/</a><a href="https://zhub.link/tags/AI" class="mention hashtag" rel="tag">#AI</a> <a href="https://zhub.link/tags/ML" class="mention hashtag" rel="tag">#ML</a> <a href="https://zhub.link/tags/DL" class="mention hashtag" rel="tag">#DL</a> <a href="https://zhub.link/tags/%D0%B8%D0%B8_%D0%B8_%D0%BC%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5" class="mention hashtag" rel="tag">#ии_и_машинное_обучение</a> <a href="https://zhub.link/tags/AGI_%D0%B8_ASI" class="mention hashtag" rel="tag">#AGI_и_ASI</a> <a href="https://zhub.link/tags/%D1%81%D0%B2%D0%B5%D1%80%D1%85%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%BB%D0%B5%D0%BA%D1%82" class="mention hashtag" rel="tag">#сверхинтеллект</a> <a href="https://zhub.link/tags/%D0%90%D1%88%D0%B5%D0%BD%D0%B1%D1%80%D0%B5%D0%BD%D0%BD%D0%B5%D1%80" class="mention hashtag" rel="tag">#Ашенбреннер</a> <a href="https://zhub.link/tags/OpenAI" class="mention hashtag" rel="tag">#OpenAI</a> <a href="https://zhub.link/tags/GPU" class="mention hashtag" rel="tag">#GPU</a> <a href="https://zhub.link/tags/NVIDIA" class="mention hashtag" rel="tag">#NVIDIA</a>

Recent searches

Search options

Administered by:

Server stats:

#сверхинтеллект