Обсуждение проблем использования локальных LLM (псевдо ИИ)

[Alex2013]

Alex2013, побалуйся и выкинь. Пользуйся чатом для конкретных поисков, не заставляй его генерировать тебе код, особенно если он сложный. Мало того что ты на чат потратишь время, так ещё и потом на доработку кода (который писал не ты) будешь тратить время.

Ну как-бы тренд на использование LLM все ще в ходу... (Основной хайп я благополучно пропустил примерно так-же как первую волну шума вокруг генерации изображений однако AUTOMATIC1111 Stable Diffusion Web UI вполне прижилась в моем графическом инструментарии так-же как GIMP или Blender и выкидывает я ее никуда не собираюсь бо это реально полезная и интересная штука )

Сейчас в «мире LLM» идет переосмысление их возможностей, специализация и так сказать, «инструментизация». Разумеется, все ждут и немного боятся перехода на «Пятый Уровень», но все это где-то там, а я где-то тут. Есть идея, что можно так или иначе добавить интеллект в свои программы, возможно, в IDE и это пожалуй все мои надежды касательно LLM.

Особых плюшек от генерации и анализа программного кода я не ожидаю. Но, кроме прочего, попытки использовать LLM в процессе разработки позволяют немного разнообразить подходы к решению задачи (самостоятельно перебирать возможные реализации своих идей довольно затратно по времени, да и просто лениво).

[debi12345]

Ну во всяком случае фотошоп "Krita" в компании со "StabelDiffusion" (по факту ставятся в одной ЛОКАЛЬНОЙ связке) генерят весьма реалистичных дамочек, это весьма увлекательное развлечение ))

Например вот что пишет grok-2

"Грок" весьма и весьма неплох. Жаль,что не запоминает диалоги и контекст между сессиями. Причем он реально обучается в диалогах с пользователями, а не только по тэггированным датасетам от создателей. Например мне удалось научить его разгадывать некоторые загадки, основанные на игре слов. Также научил его правильно переводить юникс-секунды в даты (он реально в ЭТОМ ошибался ).

Добавлено спустя 13 минут 15 секунд:
Re: Обсуждение проблем использования локальных LLM (псевдо ИИ)
Сеанс обучения "грока" )))

Теперь - "Баба с ... , кобыле ..."

"Баба с телегой, кобыле не товарищ."

Код: Выделить всё

Не-а.  Правильно - "Баба с воза, кобыле легче" . И объясни смысл этой пословицы

Извините за ошибку. Правильно: "Баба с воза, кобыле легче."
Эта пословица означает, что когда кто-то или что-то становится лишним или ненужным, это облегчает ситуацию для остальных. В буквальном смысле, если баба (женщина) спрыгнет или будет убрана с телеги (воз), то лошади станет легче тянуть её. В переносном смысле, это может относиться к различным жизненным ситуациям, когда избавление от лишнего груза или человека приносит облегчение или улучшение условий для кого-то другого.

Ну а тогда почему ты в 1й раз ответил "Баба с телегой, кобыле не товарищ" *? Это же не несет никакого смыла,просто набор слов. Загадки, поговорки и пословицы всегда несут какой-то явный или подразумеваемый смысл - проверяй на это в будущем

Спасибо за обратную связь! Вы правы, мой первый ответ был некорректным и не имел смысла в контексте пословиц и поговорок, которые обычно несут определенный месседж или урок. В будущем я буду более внимательно проверять ответы на соответствие логике и смыслу пословиц. Спасибо, что указали на эту ошибку!

[Alex2013]

Ну во всяком случае фотошоп "Krita" в компании со "StabelDiffusion" (по факту ставятся в одной ЛОКАЛЬНОЙ связке) генерят весьма реалистичных дамочек, это весьма увлекательное развлечение ))

Как говорит одна моя знакомая "Не без этого!" Хотя хвастаться и гордится все-же хочется более "концептуально изобразительным" контентом.

Серия "Весенние обострение" Мираж старого парка
"В мире есть две точки зрения:
«Чудес не бывает!» и «Всё вокруг является чудом!»".

"Грок" весьма и весьма неплох.

Согласен. Но интереснее всего юзать локальные LLM. Пусть они слабее «облачных» (скачать можно почти что угодно, но домашнее железо тяжелые модели не потянет), однако ощущения от использования локальных моделей совершенно другие!

Облака — они «где-то там», и в них подсознательно немного не веришь, то есть никак нельзя проверить, не сидит ли там «индус за занавеской» или просто «экспертная система + обычный (не интеллектуальный и/или не нейронный) чат-бот»...

Но когда на глухо отключенном от Сети компе внезапно появляется «электронный джин», знающий больше, пусть даже не всегда точных ответов, чем можно задать за всю свою жизнь, это реально впечатляет! К тому же у локальных моделей нет проблем с запоминанием диалогов (если есть нужда в продолжении разговора, то «стоимость» около 2 ГБ дискового пространства на ветку любой беседы), а еще локальным моделям вполне можно скормить целую стопку конфиденциальных и приватных документов на анализ и обработку.