Товарищ сообщает — попробовал новую локальную модель GLM-4-32B от китайцев. И если честно — офигел, модель по уровню написания кода не хуже Sonnet 3.5 – она с первого раза сделала мне змейку с автопилотом и лендинг по большому взрыву, с анимациями и приятным дизайном.
Но это не всё, я не знаю, как китайцы это сделали, но модель очень аккуратно работает с памятью – потребляет ее меньше, чем конкуренты.
Еще в этой же серии моделей вышла «думающая» Z1-32B, но она почему-то кодит хуже обычной.
В этой же серии моделей доступна 9B версия, но она ожидаемо хуже пишет код.
HuggingFace со всеми моделями.
Если что, в последних версиях AI Asisstant JetBrains есть ollama и LM Studio, можно прям как основную для написания кода гонять, но я тестирвоал на llama.cpp, потому что люблю хардкор.
Это выглядит так, что ИИ лишает работы программистов (конечно, в основном тупых и неспособных научиться пользоваться ИИ) прямо сейчас.
Заметьте — речь про локальную модель ИИ, то есть ту, что запускается прямо на вашем компе, без обращения к внешним сервисам. И китайцы их свободно отдают, не делая из них секрета.
Теперь вы понимаете, отчего в США такой психоз? Они-то думали, что у них эксклюзивная технология — и биржи на этой идее надувались пузырями капитализации американских фирм. А китайцы их опустили.