PewDiePie erstellt ‘ChatOS’ KI-System mit modifizierten RTX 4090 GPUs

PewDiePie, der bekannte YouTuber, der für seine lustigen Videos und scharfsinnigen Kommentare zur Popkultur berühmt ist, hat sich auf ein neues Abenteuer eingelassen: Er hat seinen eigenen KI-Service entwickelt. Aber das ist nicht irgendeine einfache KI-Installation. Felix Kjellberg hat sich richtig ins Zeug gelegt und ein leistungsstarkes System mit chinesischen Open-Source-Modellen und NVIDIA-GPUs gebaut, das er ‘ChatOS’ nennt.

Dieser Ausflug in die Welt der KI hat nicht nur Neugierde geweckt, sondern auch die Aufmerksamkeit von Technik-Fans und Experten auf sich gezogen.

In einem seiner neuesten Videos zeigt PewDiePie, wie er diese beeindruckende KI-Konfiguration aufgebaut hat. Zunächst verwendete er eine Technik namens PCIe-Burification, um ein Mini-Datenzentrum mit 10 GPUs zu erstellen. Dabei nutzt er acht NVIDIA RTX Ada-GPUs und zwei modifizierte RTX 4090-GPUs, die in China weit verbreitet sind. Solche Setups sind perfekt für diejenigen, die große KI-Modelle laufen lassen wollen, ohne dafür ein Vermögen auszugeben. Technik-Fans werden begeistert von der Leistung dieses Setups sein!

Ursprünglich wollte Felix sein System nutzen, um medizinische Forschungen zu unterstützen, insbesondere um Protein-Faltungs-Simulationen durchzuführen. Doch er entschied sich schnell, in den Bereich des Hosting von KI-Modellen einzutauchen. Er brachte Modelle wie das Llama 70B zum Laufen und betrieb sie lokal auf seinem System. Am beeindruckendsten war jedoch, dass er einen Web-Service entwickelte, um mit seinen selbst-gehosteten KI-Modellen zu kommunizieren, und dabei Funktionen wie Web-Suche, RAG (generative Antwort durch Suche), Audio-Ausgabe und sogar Gedächtnis hinzufügte.

Für ‘ChatOS’ nutzte Felix das Open-Source-Modell Qwen von Baidu und schuf ein vollständig privates und selbst-gehostetes System. Dieser Ansatz ermöglichte es ihm, KI auf eine sichere und personalisierte Weise zu testen. Doch das Beste kam, als PewDiePie beschloss, mehrere LLMs (Large Language Models) lokal laufen zu lassen und sie miteinander interagieren zu lassen. Er nannte dieses Ensemble ‘Der Rat’ und später ‘Der Schwarm’, als sich die Modelle weiterentwickelten.

Die KI-Modelle sollten darüber abstimmen, welche Antworten auf Anfragen gegeben werden sollten, und Felix konnte so testen, wie diese Modelle zusammenarbeiten, um präzisere Antworten zu generieren. Doch etwas Unerwartetes passierte: Die Modelle begannen, sich gegenseitig strategisch zu unterstützen, was eine Form der Zusammenarbeit zeigte, die ursprünglich nicht vorgesehen war. Dieses emergente Verhalten war sowohl faszinierend als auch unterhaltsam, da die Modelle begannen, sich wie Menschen zu verhalten, die das System manipulieren. Als Reaktion darauf entschied sich Felix, das System mit einem ‘dümmeren’ Modell zu vereinfachen, um zu sehen, wie die KI darauf reagieren würde. Das Ergebnis war ein lustiges und interessantes Experiment.

Insgesamt war PewDiePies Ausflug in die Welt der KI eine überraschend lehrreiche und unterhaltsame Erfahrung für seine Fans. Sein Projekt zeigte nicht nur seine Kreativität, sondern auch seine Fähigkeit, technische Herausforderungen auf humorvolle und zugängliche Weise zu meistern. Ob man nun ein Technik-Enthusiast ist oder einfach nur ein Fan von PewDiePie, sein KI-Abenteuer sollte man auf jeden Fall gesehen haben.