<![CDATA[#UnplugBigTech Tipp 24: Open-Source-KI]]> Tipp 24: Open-Source-KI

Meide KI-Angebote großer US-Konzerne wie ChatGPT und Gemini. Diese Systeme werden mit fragwürdigen Daten trainiert, verletzen Urheberrechte und beeinflussen Meinungen. Nutze stattdessen Open-Source-Alternativen wie Ollama oder GPT4All, die du lokal betreiben kannst – ohne Überwachung durch Big Tech.

]]>https://board.circlewithadot.net/topic/460d9bdf-66a5-4f83-aca1-e48442fdc4be/unplugbigtech-tipp-24-open-source-kiRSS for NodeFri, 05 Jun 2026 03:48:04 GMTSun, 24 May 2026 07:00:55 GMT60<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 08:24:18 GMT]]>@kuketzblog Frage für mich an alle: hier wird lokale AI empfohlen statt chatgpt usw.
Dies ist auch absolut richtig und das Optimum.

Verständnisproblematik Beispiel:
Bei dem Messengern wird aber Signal empfohlen weil es praktikabel für die breite Masse ist, welches auch richtig ist. Bei dem hier Thema gibt es aber, nur nach meiner Auffassung, böse BigTech (was ich auch so sehe) und lokal betrieben.

Oder gibt es auch Praktikable und leichte Lösungen für die breite Masse, wie z.B. Tante Bommel, die immer noch lustige Meme postet auf wer-kennt-wen 🙂 (überspitzt dargestellt)

Als Anhang bzw Info:

Ich nutze AI um mein Heimnetzwerk auszubauen open source Lösung zu implentieren und Problemlösung/suche durchzuführen, dass wars. Mittlerweile habe ich nginx, pihole, vaultwarden, obsidian, syncthing, VPN implementiert, sowie graphene os installiert und ja das wird für die Cracks heißen omg das programmier und installier ich dir im schlaf. Das freut mich ehrlich und ich bin absolut neidisch auf euch. *kein sarkasmus* ich brauche Hilfe dabei und beim Zusammenspiel von allem, ist für mich die AI ein super HILFSMITTEL.

]]>https://board.circlewithadot.net/post/https://kanoa.de/ap/users/116498095747562431/statuses/116628590299009484https://board.circlewithadot.net/post/https://kanoa.de/ap/users/116498095747562431/statuses/116628590299009484Sun, 24 May 2026 08:24:18 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 08:12:55 GMT]]>@kuketzblog Wer nicht selbst hosten möchte oder kann:
- duck.ai (duckduckgo): kein Konto erforderlich, anonymisierte Chats, kein KI-Training mit eigenen Daten
- Ensu (ente.io): On-Device-LLM, Open source, privacy-first, offline

]]>https://board.circlewithadot.net/post/https://social.tchncs.de/users/anonvist/statuses/116628545555918775https://board.circlewithadot.net/post/https://social.tchncs.de/users/anonvist/statuses/116628545555918775Sun, 24 May 2026 08:12:55 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 08:10:40 GMT]]>@kuketzblog Selber denken und schreiben hält fit und verhindert Cerebralaplasie.

]]>https://board.circlewithadot.net/post/https://nrw.social/users/hengstenberg/statuses/116628536736879499https://board.circlewithadot.net/post/https://nrw.social/users/hengstenberg/statuses/116628536736879499Sun, 24 May 2026 08:10:40 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:57:31 GMT]]>@kuketzblog ich kann apps wie anythingll oder LmStudio für den pc empfehlen. Diese apps suchen dann je nach hardware ein "passendes" modell heraus. Persönlich habe ich gute Erfahrung mit gemma4 gemacht (ist aber von google erzeugt.

]]>https://board.circlewithadot.net/post/https://hessen.social/users/g0tch4/statuses/116628484996638898https://board.circlewithadot.net/post/https://hessen.social/users/g0tch4/statuses/116628484996638898Sun, 24 May 2026 07:57:31 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:54:52 GMT]]>@dex77 der erste Kaffee am Morgen hat seine volle Magie noch nicht entfaltet. Danke für den Hinweis des doppelten "offline"

]]>https://board.circlewithadot.net/post/https://mastodon.social/ap/users/115849515244810963/statuses/116628474578556972https://board.circlewithadot.net/post/https://mastodon.social/ap/users/115849515244810963/statuses/116628474578556972Sun, 24 May 2026 07:54:52 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:51:29 GMT]]>@nerstix

@kuketzblog

Offline herunterladen 😂

]]>https://board.circlewithadot.net/post/https://chaos.social/users/dex77/statuses/116628461273287116https://board.circlewithadot.net/post/https://chaos.social/users/dex77/statuses/116628461273287116Sun, 24 May 2026 07:51:29 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:47:49 GMT]]>@kuketzblog wie schaut es mit Euria https://euria.infomaniak.com/ aus? ich denke da tut sich was!

]]>https://board.circlewithadot.net/post/https://social.tchncs.de/users/doperdo/statuses/116628446858276524https://board.circlewithadot.net/post/https://social.tchncs.de/users/doperdo/statuses/116628446858276524Sun, 24 May 2026 07:47:49 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:46:07 GMT]]>@kuketzblog Unter ist die App "Locally AI" aus dem AppStore absolut zu empfehlen. AI Modelle wie , oder auch lassen sich mit wenigen Klicks herunterladen und offline nutzen.

Seit langem im Einsatz und super happy damit. Schützt nicht nur meine Privatsphäre sondern schont z.B. auch die Umwelt. Mein MacMini nuckelt sich deutlich weniger Energie aus der Steckdose, als ein großes Datacenter 😀

Link Preview Image
Locally AI - Local AI Chat‑App – App Store

Lade „Locally AI - Local AI Chat“ von Element Labs Inc im App Store herunter. Sieh dir Bildschirmfotos, Bewertungen und Rezensionen, Benutzertipps und weitere…

favicon

App Store (apps.apple.com)

]]>https://board.circlewithadot.net/post/https://mastodon.social/ap/users/115849515244810963/statuses/116628440174321113https://board.circlewithadot.net/post/https://mastodon.social/ap/users/115849515244810963/statuses/116628440174321113Sun, 24 May 2026 07:46:07 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:43:04 GMT]]>@kuketzblog searxng nehmen, schwups, keine AI...

]]>https://board.circlewithadot.net/post/https://chaos.social/users/byteborg/statuses/116628428216193338https://board.circlewithadot.net/post/https://chaos.social/users/byteborg/statuses/116628428216193338Sun, 24 May 2026 07:43:04 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:40:35 GMT]]>@kuketzblog wie speichert Mistral die Daten, was machen die mit den Daten und welche Cloud Infrastruktur wird genutzt?

]]>https://board.circlewithadot.net/post/https://mastodon.social/users/BarbaraNiedner/statuses/116628418446516795https://board.circlewithadot.net/post/https://mastodon.social/users/BarbaraNiedner/statuses/116628418446516795Sun, 24 May 2026 07:40:35 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:37:46 GMT]]>@WinstonSchmitt @kuketzblog Das denke ich nämlich auch, am Ende wollen sie alle dasselbe. Meine Frage ist aber im Kontext der Kuketzschen Warnungen vor US-Diensten gestellt, das betrifft Mistral ja nicht. Obwohl sie selbst zugeben, MS- und amzn-Clouddienste zu nutzen.

Aber ja, lokal eingesetzt (in einem Unternehmen) ist die s. g. KI sicher große Hilfe. In freier Wildbahn sammelt sie nur Daten und quatscht Bullshit. Und ist gefährlich.

]]>https://board.circlewithadot.net/post/https://mastodontech.de/users/tomarsch/statuses/116628407328573646https://board.circlewithadot.net/post/https://mastodontech.de/users/tomarsch/statuses/116628407328573646Sun, 24 May 2026 07:37:46 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:37:08 GMT]]>@fedithom

@kuketzblog

Nein.

]]>https://board.circlewithadot.net/post/https://social.vivaldi.net/users/zahnfee/statuses/116628404854921979https://board.circlewithadot.net/post/https://social.vivaldi.net/users/zahnfee/statuses/116628404854921979Sun, 24 May 2026 07:37:08 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:36:29 GMT]]>@kuketzblog
Nach meinem Verständnis ist die Aussage leicht irreführend. ollama und GPT4All (wird kaum weiterentwickelt) sind Werkzeuge, um LLMs betreiben zu können. Es sind keine Modelle. ChatGPT & Gemmini sind Werkzeuge mit einem Modell. Für ollama und GPT4All braucht man Modelle wie gemma-4 (Google). Lokal hat man dann idR auch Systeme den fragwürdigen Trainingsdaten, Urheberrechtsfragen ... aber ohne Überwachung.

P. S.:
https://infosec.exchange/@zoug/116422318307766663
https://www.jan.ai/ Apache License 2.0

]]>https://board.circlewithadot.net/post/https://fosstodon.org/users/devSJR/statuses/116628402290914114https://board.circlewithadot.net/post/https://fosstodon.org/users/devSJR/statuses/116628402290914114Sun, 24 May 2026 07:36:29 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:34:39 GMT]]>@kuketzblog Diese Systeme wurden doch auch mit fragwürdigen Daten trainiert ...?

]]>https://board.circlewithadot.net/post/https://mastodon.online/users/larsmb/statuses/116628395129754443https://board.circlewithadot.net/post/https://mastodon.online/users/larsmb/statuses/116628395129754443Sun, 24 May 2026 07:34:39 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:30:24 GMT]]>@kuketzblog ich bin auch der Meinung, dass europäische KI Anbieter nur minimal besser sind. Lokal habe ich probiert, aber meine heimische Rechenleistung reicht nicht für die einfachsten Dinge.
Ich habe selber noch keine Idee, wie ich damit umgehen soll, denn auch der Qualitätsunterschied ist teils enorm.

]]>https://board.circlewithadot.net/post/https://norden.social/users/danielbierstedt/statuses/116628378402321669https://board.circlewithadot.net/post/https://norden.social/users/danielbierstedt/statuses/116628378402321669Sun, 24 May 2026 07:30:24 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:28:50 GMT]]>@zahnfee

Mal wieder selbst denken und recherchieren in Betracht gezogen?

@kuketzblog

]]>https://board.circlewithadot.net/post/https://social.saarland/users/fedithom/statuses/116628372223218975https://board.circlewithadot.net/post/https://social.saarland/users/fedithom/statuses/116628372223218975Sun, 24 May 2026 07:28:50 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:27:03 GMT]]>@kuketzblog

Hm, naja, ich wollte jetzt eigentlich nicht mehr 45 Minuten auf eine Antwort von Oolama warten (selbstverständlich selbst ausprobieren, auf meiner dann doch zu schwachen Hardware) um dann die Frage wieder zu verändern weil das Ergebnis nicht befriedigend war.

Dann lieber und wenn man einen Account hat die AI.

]]>https://board.circlewithadot.net/post/https://social.vivaldi.net/users/zahnfee/statuses/116628365210212212https://board.circlewithadot.net/post/https://social.vivaldi.net/users/zahnfee/statuses/116628365210212212Sun, 24 May 2026 07:27:03 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:26:07 GMT]]>@tomarsch @kuketzblog
Is doch das gleiche nur in Europa. Du lässt dann deine Daten dann halt auf einem fremden europäischen System verarbeiten. Finde ich persönlich nur minimal angenehmer.
Aber der Ratschlag machs auf deinem eigenen Rechner setzt leider vorraus, dass man einen mit entsprechender Rechenleistung hat. Dazu braucht man noch Zeit, Lust und Expertise zum Pflegen der selbst gebauten Lösung...

]]>https://board.circlewithadot.net/post/https://ruhr.social/users/WinstonSchmitt/statuses/116628361571026252https://board.circlewithadot.net/post/https://ruhr.social/users/WinstonSchmitt/statuses/116628361571026252Sun, 24 May 2026 07:26:07 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:23:09 GMT]]>@kuketzblog
Bei passender Modellwahl und OpenCode kannan dann sogar Codingagenten weiter nutzen.
Aber gibt es eine Empfehlung, mit dem Leistungsunterschied umzugehen? Lokal werde ich vmtl. nicht die hunderte Gigabyte großen Vollmodelle auf meiner Consumerhardware laufen lassen können (oder wollen). Preise für größere CUDA-fähige Grafikkarten brauchen ja schon fast eine Triggerwarnung.

]]>https://board.circlewithadot.net/post/https://chaos.social/users/oneiromanticor/statuses/116628349888058036https://board.circlewithadot.net/post/https://chaos.social/users/oneiromanticor/statuses/116628349888058036Sun, 24 May 2026 07:23:09 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:23:08 GMT]]>@kuketzblog
…oder versuch mal wieder selber zu denken. So fällt der Schlick von den Zellen. 😉

]]>https://board.circlewithadot.net/post/https://chaos.social/users/exi/statuses/116628349785150949https://board.circlewithadot.net/post/https://chaos.social/users/exi/statuses/116628349785150949Sun, 24 May 2026 07:23:08 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:14:04 GMT]]>@kuketzblog
Wie ist le Chat zu bewerten?

]]>https://board.circlewithadot.net/post/https://social.vivaldi.net/users/MarcelErnst/statuses/116628314144711842https://board.circlewithadot.net/post/https://social.vivaldi.net/users/MarcelErnst/statuses/116628314144711842Sun, 24 May 2026 07:14:04 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:10:10 GMT]]>@kuketzblog Was ist mit Mistral?

]]>https://board.circlewithadot.net/post/https://mastodontech.de/users/tomarsch/statuses/116628298836196023https://board.circlewithadot.net/post/https://mastodontech.de/users/tomarsch/statuses/116628298836196023Sun, 24 May 2026 07:10:10 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:08:48 GMT]]>@kuketzblog oder zumindestens Me Chat (https://chat.mistral.ai/chat) von https://mistral.ai aus Frankreich/Europa nutzen anstelle von ChatGPT, da das lokale Betreiben natürlich weniger oft möglich ist.

]]>https://board.circlewithadot.net/post/https://activitypub.mnethome.de/users/mat/statuses/01KSCD184F7GQN2H78DVC6BRVKhttps://board.circlewithadot.net/post/https://activitypub.mnethome.de/users/mat/statuses/01KSCD184F7GQN2H78DVC6BRVKSun, 24 May 2026 07:08:48 GMT<![CDATA[Reply to #UnplugBigTech Tipp 24: Open-Source-KI on Sun, 24 May 2026 07:08:37 GMT]]>@kuketzblog

was ist mit mistral ai?

]]>https://board.circlewithadot.net/post/https://mastodon.social/users/StefanHirsch/statuses/116628292702383618https://board.circlewithadot.net/post/https://mastodon.social/users/StefanHirsch/statuses/116628292702383618Sun, 24 May 2026 07:08:37 GMT