Lineage2TS - HF сервер написанный на Typescript

Aristo написал(а):

Ну я сложный код даже умной сетке не доверю, а мелочь и локально крутится неплохо. У меня 48гб vram, могу крутить 30b модели с контекстом 256к на изи)

Нажмите, чтобы раскрыть...

Я проверял все что есть, и платные (покупал подписки) и бесплатные. Разница между фри и платными огромная.
По качеству ответов и верности результата

Гугл: дам 5/10 (огромный плюс что можно загрузить репозиторий до 100мб файлов)


GPT (тогда была o1): 7/10.
Claude (Opus): 8/10.


Всё другое не больше 3/10.

M4ybe написал(а):

вот если бы кликом кнопки в маркете плагинов ставилось можно было бы подумать))а так за бабки еще и самому прикручивать хехе

Нажмите, чтобы раскрыть...

Тогда юзай курсор, чтоб не было попаболи и не парить голову.

Logan22 написал(а):

GPT: 7/10.

Нажмите, чтобы раскрыть...

Да все зависит от промта, насколько он грамотно составлен. Юзал гпт и дип +- равны и пишут одно и тоже. Гпт только бесплатных попыток мало на топ модель, а остальные сильно хуже дипсика.

Logan22 написал(а):

Я проверял все что есть, и платные (покупал подписки) и бесплатные. Разница между фри и платными огромная.
По качеству ответов и верности результата

Гугл: дам 5/10 (огромный плюс что можно загрузить репозиторий до 100мб файлов)
GPT: 7/10.
Claude (Opus): 8/10.
Всё другое не больше 3/10.

Нажмите, чтобы раскрыть...

Ты про агентов или вообще про мозги ЛЛМ в целом?

Если для меня брать самую умную - то это Gemini Pro 2.5 Она в рамках AI Studio халявная и контекст 1кк это овердохуя. + Ей можно кормить файлы из Google Drive и не париться за размер, но я ее иногда юзаю, чтобы писать джавадоки на огромные классы, когда ты сначала ее кормишь класс, потом просишь объяснить как она поняла логику, потом корректируешь и объясняешь какие-то важные вещи и она рожает класс на 10к строк, где каждый метод покрыт досконально качественными и очень крутыми доками. Причем все это бесплатно)

Вот, например враппер:

Aristo написал(а):

когда ты сначала ее кормишь класс, потом просишь объяснить как она поняла логику, потом корректируешь и объясняешь какие-то важные вещи и она рожает класс на 10к строк, где каждый метод покрыт досконально качественными и очень крутыми доками. Причем все это бесплатно)

Нажмите, чтобы раскрыть...

чем больше обратной связи тем лучше, как говорится на одной волне нужно быть, а то так да может выдумать конечно

Aristo написал(а):

Ты про агентов или вообще про мозги ЛЛМ в целом?

Нажмите, чтобы раскрыть...

LLM

Aristo написал(а):

Если для меня брать самую умную - то это Gemini Pro 2.5 Она в рамках AI Studio халявная и контекст 1кк это овердохуя.

Нажмите, чтобы раскрыть...

Она постоянно путается в контекте, багует, может вместо результата отправить изображение или написать "Я просто текстовая модель..." когда просишь показать полностью содержимое.
К слову, для Claude я пару раз встречал такие баги и отправил только 3-4 тикета с лета того года по сегодня, в гугл 2.5 штук 40-50 тикетов таких ошибок за полтора месяца.
1кк контекста это хорошо, но толку если он в нем путается. Элементарно даже не может парой справится с CSS/HTML разметкой. Даешь такой же промт в клауд и сравниваешь результаты небо и земля.

M4ybe написал(а):

чем больше обратной связи тем лучше, как говорится на одной волне нужно быть, а то так да может выдумать конечно

Нажмите, чтобы раскрыть...

Дак понятно. Важно просто понимать, че у сетки происходит под капотом. Как работает вообще все, как правильно строить предложения, на что влияет промпт и его состав, как работает токенайзер, как происходит встраивание и прочее. Чем глубже все это понимаешь, тем меньше магии и тем лучше работает этот статистический фильтр, который ошибочно называют ИИ.

Logan22 написал(а):

Я не хочу тебя расстроить, пусть будет так как ты думаешь

Нажмите, чтобы раскрыть...

Не надо расстраиваться тоже. Так действительно будет. Почемы вы считаете что вы будете правы? Здесь таких мнимых экспертов развилось что пруд пруди. Им главное верить надо. Неправда? Я же вас спрашивал зачем про ИИ а вы со своей настойчивостью все не решите что мне этого не надо, как и ваше мнение.

Aristo написал(а):

Как будто ему не похуй на эту лицензию. Вы никогда и никому не докажите, что ваш код использовался для обучения ИИ. Это в принципе нереально доказать) + в ИИ не будет не строчки вашего кода) Она не хранит ваш код в весах и не запоминает его во время обучения. Это просто обучение, продуктом работы которого являются веса модели. Это тоже самое, что заставить меня открыть мой код, после того, как я посмотрел ваш репозиторий, ссылаясь на то, что я использую знания о нем в своей работе)

Нажмите, чтобы раскрыть...

Это из темы мнительных архитекторов. Бред какой-то не соответстрвующий реальности как и истории. Вы вообще следили за развитием ИИ? Его сразу же натренеровали на всем что было. Было такое дело с Copilot, что немного покорячило как Microsoft так и использование ИИ для программирования. Теперь все тренируют на особенных лицензиях по типу MIT, чтобы их ИИ тоже нe забрали в суд. Может быть на пространстве СНГ такой тренинг возможен, но на западе это уже пережили.

Хочеться напомнить флудерам, что тема о проекте Lineage2TS. Не о своих изласках об ИИ и тем более не про то что вы советуюте. Как я раньше говорил - буду брать советы от тех людей которые либо имеют свой проект, либо тех которые заинтересованны в том что-бы дать что-то проекту (тут можно помочь как и кодом, так и тестированием всего и вся, а не выдумками от архитекторов с ординами вымысленных побед).