Комментарии 9
https://librechat-librechat.hf.space/
Если не хочется или не можется поднимать свой сайт то ключи от сервисов (опенроутер, джемини, мистраль и других можно вставлять туда). Всё работает без впн и денег.
И аналогично в телеграмме.
ну да, я так в локальный Jan вставлял.
про деньги упомянул, потому что в openrouter для бесплатных моделей rate limit стоит, похоже.
через некоторое время перестают отвечать.
я забросил $10, за месяц меньше половины ушло.
Бесплатный ключ от джемини даёт 1500 запросов в сутки и 10 запросов в минуту и миллион токенов в минуту. Это практически безлимит. У мистраля аналогично, миллиард токенов в месяц, 500т токенов в минуту, 1 запрос в секунду.
Джемини умеет распознавать голос, отвечать по картинкам, гуглить и контекст у него такой большой что раг не нужен.
А пользы от гопоты много, может по тому же линуксу за ручку провести, подсказать как самбу настроить, какие параметры у ffmpeg прописать итп, гораздо быстрее и удобнее чем маны и гугол.
Интересная статья!Попробую у себя провернуть на серваке на днях, отпишу по результатам, спасибо!
Толком и не понял, в чем может быть тотальная польза от ИИ, книги он в любом случае не заменит - это факт. Вижу применение в постановке задач для практики, так как самому придумывать - фантазии не хватает, а задачи для личных целей не всегда касаются того, что нужно закрепить. В любом случае интересно попробовать у себя то, что описано в статье.
Стоит ли для этих целей покупать домашний сервер?
книги он в любом случае не заменит
разумеется. Я потому и написал, что ни знаний, ни опыта не заменяет.
Стоит ли для этих целей покупать домашний сервер?
нет, достаточно залогиниться на openrouter.ai или (как предлагает комментатор выше) на gemini.google.com или на chatgpt.com. Для того, чтобы попробовать этого более, чем достаточно. Честно говоря, этого вообще достаточно, мой вариант избыточен.
Вижу применение в постановке задач для практики
да, вполне себе вариант. Буквально вчера со старшим сыном так выбирали, что можно сделать для школьного проекта из имеющегося набора ардуино.
Другой пример — я не мог найти ошибку в скрипте, скормил выхлоп лога ИИ и выяснил, что нарвался на самый неприятный для меня тип ошибок — мелкая опечатка, которую не видишь, потому что глаз замылился, а из лога это неочевидно.
В общем, я сначала ровно как вы вообще не понял зачем оно надо и почему вокруг столько хайпа.
Мне очень помогла статья «Промпты для ChatGPT, которые могут повысить качество ответов ChatGPT».
попробую развить мысль на примере из статьи про генерацию конфига микротик — если попросить GPT сгенерировать конфиг, он выдаст что-то.
Но если перед этим прописать system pompt (я приводил его в статье) и использовать советы про "декомпозируй задачу" и т.п. — становится гораздо интереснее.
Особенно мне понравилось, когда я скопипастил из той статьи вопрос "Прежде чем ответить, я хочу, чтобы ты спросил меня обо всей недостающей информации, которую я не предоставил, но это поможет тебе лучше понять мои потребности и конкретные результаты, которые я хочу получить."
вопросы были вполне по делу и осмысленные, выглядело как коллега в чате ТЗ уточняет : )
Основная проблема с GPT, как и с любой другой технологией — чтобы получить хороший результат, нужно прилагать усилия.
Хотя, для простых вопросов вроде "у меня есть видеокарта ХХХ, стоит ли менять её на YYY?" такие сложности, разумеется, не нужны (кстати, тоже реальный запрос).
В общем, в моём понимании, GPT — это такой поисковик на максималках. Это как stackoverflow.com. В смысле, stackoverflow.com не будет работать за тебя и не заменит знаний, но может ощутимо сэкономить время.
Статья похожа на стариковской брюзжание про "эти ваши энтырнеты". Миллиард человек пользуется и понимает зачем им MML, а автор со скучающим выражением уставшего бывалого айтишника пытается понять что же такое эта штука может привнести в его насыщенную событиями жизнь. Спросите любую знакомую домохозяйку, они ИИ используют от рецептов для блюд из того, что осталось в холодильнике до советов по сочетанию цветов одежды перед походом в магазин. Мой друг, скрипичный мастер, использует их для объяснения психоакустических особенностей инструментов. Или смысловые нюансы английских (и не только) слов и фраз может объяснить лучше любого педагога (модель все-таки языковая).
ChatGPT и все-все-все. Недорого