So laufen Sie Qwen AI lokal unter Windows 11 aus

Qwen aiist das neueste KI -Modell, das von Alibaba Group veröffentlicht wurde. WährendAnwesendAnwesendund andere beliebte KI -Tools sind für Android-, iOS- und Windows -Plattformen verfügbar. QWEN ist derzeit als Web -App verfügbar. Sie können auf dieses Tool zugreifen und nutzen, indem Sie seine offizielle Website besuchen. Dies erfordert jedoch, dass Sie sich auf der Website anmelden. Darüber hinaus sollten Sie eine aktive Internetverbindung haben. Aber wissen Sie, dass Sie könnenFühren Sie Qwen AI lokal auf Ihrem Windows 11/10 PC aus? Dieser Artikel zeigt Ihnen, wie das geht.

Wie benutze ich Qwen AI im Web?

Um Qwen AI von Alibaba im Web zu verwenden, besuchen Siechat.qwenlm.aiund geben Sie Ihre Anfrage ein. Chatten Sie weiter wie in jedem KI -Tool. Sie müssen ein Konto erstellen und sich anmelden, um QWEN zu verwenden.

So führen Sie Qwen AI lokal unter Windows 11/10 aus

Um QWEN lokal auf Ihrem Windows -PC auszuführen, müssen Sie die folgenden zwei Tools installieren:

  • Ollama
  • Docker

Ollamaist ein kostenloses und open-Source-Projekt, mit dem Benutzer LLMs (große Sprachmodelle) auf ihren lokalen Maschinen ausführen können.

Dockerist eine Open-Source-Plattform zum Entwickeln, Versand und Ausführen von Anwendungen. Entwickler können ihre Arbeit teilen, indem sie Container in Docker erstellen.

In diesem Handbuch erklären wir, wie Sie Qwen AI lokal auf Ihrem Windows -PC ausführen, indem Sie einen Container in der Docker -App erstellen.

So installieren Sie Ollama unter Windows

Der erste Schritt besteht darin, Ollama auf Ihrem System zu installieren. Befolgen Sie die unten angegebenen Schritte:

  1. Besuchen Sie dieOllamas offizielle Website.
  2. Klicken Sie auf die Schaltfläche Download, wählen Sie die Windows -Plattform aus und fahren Sie mit dem Herunterladen von Ollama für Ihren Windows -Computer fort.
  3. Führen Sie nach Abschluss des Downloads die Installateurdatei aus, um Olama in Ihrem System zu installieren.
  4. Starten Sie jetzt Ollama und lassen Sie es im Hintergrund laufen.

Installieren Sie das Qwen AI -Modell lokal

Der nächste Schritt besteht nun darin, das Qwen AI -Modell lokal auf Ihrem System zu installieren. Gehen Sie zur offiziellen Website von Ollama und klicken Sie auf dieModelleTab. Hier sehen Sie alle KI -Modelle. Suche nach demQwen. Anschließend werden Sie alle verfügbaren QWEN AI -Modelle angezeigt, einschließlich QWEN, QWEN2, QWEN2.5 usw. Klicken Sie auf das Modell, das Sie auf Ihrem PC bereitstellen möchten.

In diesem Handbuch werden wir sehen, wie die Installation der InstallationQwen2.5Modell lokal auf einem Windows -Computer. Jedes QWEN -Modell hat unterschiedliche Parameter. Das QWEN2.5 -Modell hat Parameter 0,5b, 1,5B, 3B, 7B usw. QWEN 0,5B ist der kleinste und schnellste Parameter. Es besteht aus 0,5 Milliarden Parametern und ist gut für grundlegende Aufgaben. Der 1,5B -Parameter von Qwen AI ist fortgeschrittener als der qwen 0,5B -Parameter. In ähnlicher Weise sind andere große Parameter fortgeschrittenere Parameter als die vorherigen.

Die Installation der großen Parameter erfordert einen High-End-PC. Installieren Sie daher den, den Ihr Computer reibungslos ausführen kann. Auch größere Parameter erfordern mehr Speicherplatz. Wählen Sie den Parameter aus dem Dropdown-Bereich aus und kopieren Sie seinen jeweiligen Befehl. Beispielsweise ist der Befehl zur Installation von QWEN2.5 AI mit 0,5B -Parameter:

ollama run qwen2.5:0.5b

Öffnen Sie die Eingabeaufforderung, fügen Sie den kopierten Befehl ein und klicken Sie aufEingeben. Schließen Sie die Eingabeaufforderung nicht vor Abschluss des Befehls, den Sie gegeben haben.

Wenn der Befehl erfolgreich ausgeführt wird, wird Qwen AI auf Ihrem Computer installiert. Jetzt können Sie mit der Qwen AI in CMD chatten. Wenn Sie beim nächsten Mal mit der Qwen AI chatten möchten, öffnen Sie die Eingabeaufforderung und führen Sie denselben Befehl aus. Um ein anderes Modell von Qwen AI zu installieren, kopieren Sie den erforderlichen Befehl von der Ollama -Website und führen Sie es in der CMD aus.

Installieren von Docker unter Windows

Sie können Qwen AI in CMD auf Ihrem Windows -Computer verwenden. Es speichert jedoch nicht Ihren Chat -Verlauf. Darüber hinaus erleichtert die Installation einer dedizierten Benutzeroberfläche für Qwen AI auch die Verwendung. Dafür müssen Sie Docker installieren.

Besuchen Sie dieoffizielle Website von Dockerund laden Sie die von Windows unterstützte Version herunter. Installieren Sie nun die App auf Ihrem PC. Sie müssen ein Konto auf der Docker -Website erstellen, um es auf Ihrem System herunterzuladen und zu installieren.

Führen Sie Docker aus und stellen Sie sicher, dass die Docker -Installation abgeschlossen ist, und stellen Sie sicher, dass sie immer wieder im Hintergrund ausgeführt wird. Öffnen Sie nun die Eingabeaufforderung und führen Sie den folgenden Befehl aus:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Der obige Befehl erstellt einen Container in der Docker -App. Es wird einige Zeit dauern, bis das obige Kommando abgeschlossen ist. Öffnen Sie nach Abschluss des Befehls die Docker -App. Sie sehen einen Behälter in derBehälterAbschnitt.

Führen Sie Qwen AI lokal unter Windows aus

Der letzte Schritt besteht nun darin, die Qwen AI lokal in Ihrem System im Webbrowser auszuführen. Öffnen Sie die Docker -App und klicken Sie auf die3000: 8080Link im Abschnitt Container. Dadurch wird der Localhost mit Port 3000 in Ihrem Standard -Webbrowser geöffnet. Erstellen Sie nun ein Konto. Denken Sie an die Anmeldetails, da Sie die gleichen Anmeldetails von Ihnen jedes Mal für die QWEN -KI verwenden müssen.

Beachten Sie, dass sowohl Ollama als auch der jeweilige Docker -Container im Hintergrund in Ihrem Webbrowser qwen ai lokal in Ihrem Webbrowser ausgeführt werden.

Das war's.

Kann ich KI auf meinem PC verwenden?

Ja, Sie können KI -Tools auf Ihrem PC verwenden. Wenn Ihr System keine unterstützte Hardware hat, können Sie die Cloud -KI -Tools verwenden. Solche Tools werden auf ihren Servern gehostet. Daher setzen sie Ihr System nicht auf. Wenn Sie jedoch ein KI -Tool lokal in Ihrem System bereitstellen möchten, sollte Ihr System Hardware unterstützt haben.

Ist Qwen LLM Open-Source?

Einige Modelle der Qwen AI sind Open Source, einschließlich QWEN2.5-7B-Instruct-1M und QWEN2.5-14B-Instruct-1M.

Related Posts