Lokalny chatbot AI na Ubuntu – ktoś używa na co dzień?

[MateuszJ82]

Cześć,

jestem tu nowy, choć czytam forum od lat. Ubuntu używam od wersji 10.04, teraz 24.04 na laptopie i na starym stacjonarnym.

Ostatnio z ciekawości postawiłem sobie lokalny model językowy przez Ollamę. Na laptopie z 16 GB RAM mniejsze modele chodzą znośnie, większe już mielą dysk. Do prostych rzeczy, jak podsumowanie maila czy skrypt w bashu, całkiem ok. Gorzej z faktami: zapytałem o historię wydań Ubuntu i model z pełnym przekonaniem wymyślił nazwę kodową, której nigdy nie było.

Druga rzecz, która mnie zaskoczyła: znajomy używa podobnych aplikacji w telefonie nie do pracy, tylko do zwykłej rozmowy wieczorem. Mówi, że to jak pogadać z kimś, kto zawsze ma czas. Dla mnie trochę dziwne, ale może się po prostu starzeję.

Znajomy podesłał mi potem tekst o tym, jaka jest najlepsza AI dziewczyna w 2026 roku, i nawet tam autor uczciwie przyznaje, że takie boty potrafią zmyślać fakty.

Macie doświadczenia z lokalnymi modelami na Ubuntu? Który model polecacie do języka polskiego, żeby nie trzeba było wszystkiego sprawdzać dwa razy?

[prymula]

Do języka polskiego spróbuj naszego rodzimego bielika. Do modeli ai trzeba mieć raczej nowoczesny sprzęt. 8gb vram to raczej minimum. Choć słyszałem o modelach uruchamianych na Integrze.