Note: Open source quantized 6/5/4bit AI's were used, running on older Laptop's.

Note: Open-Source quantisiert 6/5/4bit AI's were used, running on older Laptop's.

Many test runs were made with the Llama-2 generation AI's, and lots of fine-tunes of it. But this generation of AI models is obsolete.

Find the latest chat history here, but since the Llama-3.1, is not behaving as expected, despite best efforts. This is why generally Gemma-2 is used for now, in 2b 4bit imatrix XS and some Gemma-2 9b 6-3bit, and the SmolLM 360m for faster development purpose, but its output compared to the size is impressive!

Note, v3 models for devs: The multi-language capability of all newer models, can create error output, by switching language to Chinese or other Asian languages, without any context asking for it. Is this the result of overfitting the multi-language neurons, where the sentiment-analysis and reasoning would become weaker instead?

Es wurden viele Testläufe mit der KI der Llama-2-Generation durchgeführt und zahlreiche Feinabstimmungen an ihr vorgenommen. Aber diese Generation von KI-Modellen ist veraltet.

Der letzte Chatverlauf ist hier zu finden, aber seit dem Llama-3.1 verhält sich die KI nicht mehr wie erwartet, trotz aller Bemühungen. Deshalb wird jetzt generell Gemma-2 verwendet, in 2b 4bit imatrix XS und manchmal Gemma-2 9b 6-3bit, und der SmolLM 360m für schnellere Entwicklungszwecke, aber dessen Output im Vergleich zur Größe ist beeindruckend!

Hinweis, v3 Modelle für Entwickler: Die Mehrsprachenfähigkeit aller neueren Modelle kann zu einer fehlerhaften Ausgabe führen, indem die Sprache auf Chinesisch oder andere asiatische Sprachen umgestellt wird, ohne dass der Kontext dies erfordert. Ist dies das Ergebnis einer Überanpassung der mehrsprachigen Neuronen, bei der die Analyse von Gefühlen und das logische Denken schwächer werden würden?

Note: v3, Transformer LLM's - v3g: Gemma-2 generation AI's. - v3s: SmolLM 360m

Note: v3, Transformer LLM's - v3g: Gemma-2 Generation KI's. - v3s: SmolLM 360m

Note: v4, COT thinking models - v4ds: DeepSeek R1 Llama-3 distilled 4bit. - v4hua: HuatuoGPT-o1 7b 4bit

Note: v4, COT thinking models - v4ds: DeepSeek R1 Llama-3 distilled 4bit. - v4hua: HuatuoGPT-o1 7b 4bit

Thanks to DeepSeek Thank U💖China! Liang Wenfeng Meta Yann Lecun 🤗-Face, Google, Demis Hassabis DeepMind, OpenAI, Microsoft, Nvidia, Mistral AI, Anthropic and many others.

Danke schön DeepSeek Danke💖China! Liang Wenfeng Meta Yann Lecun 🤗-Face, Google, Demis Hassabis DeepMind, OpenAI, Microsoft, Nvidia, Mistral AI, Anthropic und viele andere.