Hogyan válasszunk lokális modellt?
Az alábbiakban lényegretörően összeszedtük a legelterjedtebb olyan kis, lokális nyelvi modelleket, amelyeket akár egy közepes képességű saját számítógépen is érdemben lehet már használni, és tippeket adunk arra, milyen feladattípusra melyiket javasolt választani. Futtatásuk parancssorból Ollamával lokális API-ként vagy grafikus interfészen keresztül chates interakciókra LM Studióval lehetséges.
Qwen3.6 35B
Ahogy a nevéből is látjuk, viszonylag nagy modellt kapunk relatíve mérsékelt (23GB) memóriaigénnyel (ha ennyi sem állna rendelkezésre, akkor érdemes a 18GB-t kívánó 27B verziót kipróbálni). A kontextusablak 246K, szöveges mellett képi inputot is támogat. Agentikus kódolásra, kódrepository-k elemzésére ajánlott.
Gemma 4 26B A4B
A Google legújabb generációs termékei közül helyben ez a változat ajánlható (a két paraméterszám a teljes architektúrára és az inferencia során ténylegesen használt aktív paraméterszámra utal a névben). A kontextusablak 246K, szöveges mellett képi inputot is támogat. Multimodális és általános feladatokra, kódolásra használható.
gpt-oss-20b
Memóriaigénye pusztán 16GB, létezik egy nagyobb testvére a gpt-oss-120b formájában. Agentikus és reasoning feladatokra, kódolásra ajánlott.
Qwen3-Coder 30B
30 milliárd összparaméterrel és 3,3 milliárd inferenciás paraméterszámmal rendelkezik 256K kontextusméret mellett, tényleges memóriaigénye 19GB. Kifejezetten agentikus szoftverek céljára fejlesztették.
Llama 3.3 70B
A fentiekkel ellentétben ez a modell nem túlságosan új (ellenkezőleg), így viszonylag nagy memóriaigény (48-64GB) és szűkebb kontextusablak (128K token) jellemzi. Általános célú, személyi asszisztens-típusú feladatokra használatos.
