Lineage2TS - HF сервер написанный на Typescript

[Logan22]

Ну я сложный код даже умной сетке не доверю, а мелочь и локально крутится неплохо. У меня 48гб vram, могу крутить 30b модели с контекстом 256к на изи)

Я проверял все что есть, и платные (покупал подписки) и бесплатные. Разница между фри и платными огромная.
По качеству ответов и верности результата

Гугл: дам 5/10 (огромный плюс что можно загрузить репозиторий до 100мб файлов)


GPT (тогда была o1): 7/10.
Claude (Opus): 8/10.


Всё другое не больше 3/10.

 

[Logan22]

вот если бы кликом кнопки в маркете плагинов ставилось можно было бы подумать))а так за бабки еще и самому прикручивать хехе

Тогда юзай курсор, чтоб не было попаболи и не парить голову.

 

[M4ybe]

GPT: 7/10.

Да все зависит от промта, насколько он грамотно составлен. Юзал гпт и дип +- равны и пишут одно и тоже. Гпт только бесплатных попыток мало на топ модель, а остальные сильно хуже дипсика.

 

[Aristo]

Я проверял все что есть, и платные (покупал подписки) и бесплатные. Разница между фри и платными огромная.
По качеству ответов и верности результата

Гугл: дам 5/10 (огромный плюс что можно загрузить репозиторий до 100мб файлов)
GPT: 7/10.
Claude (Opus): 8/10.
Всё другое не больше 3/10.

Ты про агентов или вообще про мозги ЛЛМ в целом?

Если для меня брать самую умную - то это Gemini Pro 2.5 Она в рамках AI Studio халявная и контекст 1кк это овердохуя. + Ей можно кормить файлы из Google Drive и не париться за размер, но я ее иногда юзаю, чтобы писать джавадоки на огромные классы, когда ты сначала ее кормишь класс, потом просишь объяснить как она поняла логику, потом корректируешь и объясняешь какие-то важные вещи и она рожает класс на 10к строк, где каждый метод покрыт досконально качественными и очень крутыми доками. Причем все это бесплатно)

Вот, например враппер:

 

[M4ybe]

когда ты сначала ее кормишь класс, потом просишь объяснить как она поняла логику, потом корректируешь и объясняешь какие-то важные вещи и она рожает класс на 10к строк, где каждый метод покрыт досконально качественными и очень крутыми доками. Причем все это бесплатно)

чем больше обратной связи тем лучше, как говорится на одной волне нужно быть, а то так да может выдумать конечно

 

[Logan22]

Ты про агентов или вообще про мозги ЛЛМ в целом?

LLM

Если для меня брать самую умную - то это Gemini Pro 2.5 Она в рамках AI Studio халявная и контекст 1кк это овердохуя.

Она постоянно путается в контекте, багует, может вместо результата отправить изображение или написать "Я просто текстовая модель..." когда просишь показать полностью содержимое.
К слову, для Claude я пару раз встречал такие баги и отправил только 3-4 тикета с лета того года по сегодня, в гугл 2.5 штук 40-50 тикетов таких ошибок за полтора месяца.
1кк контекста это хорошо, но толку если он в нем путается. Элементарно даже не может парой справится с CSS/HTML разметкой. Даешь такой же промт в клауд и сравниваешь результаты небо и земля.

 

[Aristo]

чем больше обратной связи тем лучше, как говорится на одной волне нужно быть, а то так да может выдумать конечно

Дак понятно. Важно просто понимать, че у сетки происходит под капотом. Как работает вообще все, как правильно строить предложения, на что влияет промпт и его состав, как работает токенайзер, как происходит встраивание и прочее. Чем глубже все это понимаешь, тем меньше магии и тем лучше работает этот статистический фильтр, который ошибочно называют ИИ.

 

[MrThirtyOddSix]

Я не хочу тебя расстроить, пусть будет так как ты думаешь

Не надо расстраиваться тоже. Так действительно будет. Почемы вы считаете что вы будете правы? Здесь таких мнимых экспертов развилось что пруд пруди. Им главное верить надо. Неправда? Я же вас спрашивал зачем про ИИ а вы со своей настойчивостью все не решите что мне этого не надо, как и ваше мнение.

Как будто ему не похуй на эту лицензию. Вы никогда и никому не докажите, что ваш код использовался для обучения ИИ. Это в принципе нереально доказать) + в ИИ не будет не строчки вашего кода) Она не хранит ваш код в весах и не запоминает его во время обучения. Это просто обучение, продуктом работы которого являются веса модели. Это тоже самое, что заставить меня открыть мой код, после того, как я посмотрел ваш репозиторий, ссылаясь на то, что я использую знания о нем в своей работе)

Это из темы мнительных архитекторов. Бред какой-то не соответстрвующий реальности как и истории. Вы вообще следили за развитием ИИ? Его сразу же натренеровали на всем что было. Было такое дело с Copilot, что немного покорячило как Microsoft так и использование ИИ для программирования. Теперь все тренируют на особенных лицензиях по типу MIT, чтобы их ИИ тоже нe забрали в суд. Может быть на пространстве СНГ такой тренинг возможен, но на западе это уже пережили.

Хочеться напомнить флудерам, что тема о проекте Lineage2TS. Не о своих изласках об ИИ и тем более не про то что вы советуюте. Как я раньше говорил - буду брать советы от тех людей которые либо имеют свой проект, либо тех которые заинтересованны в том что-бы дать что-то проекту (тут можно помочь как и кодом, так и тестированием всего и вся, а не выдумками от архитекторов с ординами вымысленных побед).