Forum » Verschiedenes Oeffentliches » Allgemein
- Werbung -

4 Beiträge / 0 neu
Letzter Beitrag
ThomasF
Offline
Registriert seit: 19.11.2007 - 17:33
Einladung zum Computertreff am Samstag: KI lokal auf dem PC mit GPT4All

Einladung

Der AUGE-Computertreff trift sich jeden Sa. ab 20:00
virtuell und in Präsens in Marktheidenfeld.

Also auch kommende Woche den 17.2.2024 ab 20:00

virtuell im Raum AUGE

Also in

www.compiler.de/AUGE

Ab 21:30 ist Computer-Stammtisch.

Wir setzen diesmal mit der Arbeit um Inkscape aus. Vielleicht noch

eine Nachbesprechung zur Vektorisierung von Bildern.

Ich werde das open source KI Programm GPT4All im geteilten Bildschirm installieren.

Ein LLM (Large Language Model) installieren und das Programm nutzen.

Es ermöglicht KI lokal auf dem PC zu nutzen. Also ohne Cloud.

ThomasF
Offline
Registriert seit: 19.11.2007 - 17:33
Ein Riesenspaß mit der KI zu spielen

Wir haben zwei LLMs ausprobiert.

Man braucht schon einen großen Speicher, damit es auf dem lokalen

PC läuft. Mein PC ist neuerer Bauart mit 64 GB Ram, da hat es geklappt.

Georgs Laptop hat 32 GB Ram, da hat es auch geklappt, aber es kamen Warnungen bei

der Installation.

Wir haben versucht die "KI" mit verstrickten Fragen zu füttern.

Das für die deutsche Sprache konfigurierte LLM brachte die besten Ergebnisse.

Man konnte sich über die Musikgruppe Haindling unterhalten.

Fazit: Stellt man textuelle Fragen, so kommt einigermaßen etwas plausibles

an Anworten heraus. Stellt man mathematisch Fragen wie gib mir die ersten

20 Primzahlen, dann funktioniert es auch. Fragt man aber: "Gib mir die ersten

20 Primzahlen ab 100.000 geht es auch noch (haben es nicht geprüft).

Nach der Frage: gib mir die ersten Primzahlen ab der Zahl 1000 000 000 000 hat

das Programm Unsinn ausgespukt. Auf jaden Fall war es ein gelungener spaßiger

Abend. Wir werden im Computertreff wieder mit Inkscape weitermachen.

Michael_E
Offline
Registriert seit: 19.11.2007 - 17:33
nun, auch ich habe ein wenig

nun, auch ich habe ein wenig damit rumgespielt. Es gibt da übrigens einen guten Artikel bei CT3303 dazu. Keeno empfiehlt vicuna13b oder snoozy-13B, weil alle andere von ct getesteten Sprachmodelle eher unsinn produzieren sollen. Ich habe mir das vicuna mal runtergeladen, das in der Oberfläche angeboten wird. Dieses benötigt 8 GB RAM (es gibt auch weniger komprimierte Versionen die bis zu 16 GB brauchen). Auf meinem PC gibt es keinerlei Fehlermeldungen (32 GB RAM).

Generell sollte auf einem PC ab 2014 (da AVX-2 benötigt wird) mit 8 oder eher 16 GB das ganze laufen, vermutlich aber bei älteren CPUs eher langsam. Man kann die Anzahl Threads festlegen, oder ob das ganze auf der Graka statt CPU laufen soll. Wenn ich Grafikkarte auswähle, stürzt das Programm ab. Müsste man näher untersuchen, ob es an der Karte oder dem zur Verfügung stehenden Speicher auf der Karte liegt. Mit 4 oder besser 6 Threads auf der AMD 3900XT läuft das Modell aber recht flüssig.

 

Es sollte ohne Probleme auch auf einem 32 GB Notebook laufen, wenn die CPU einigermassen aktuell ist.

 

Michael_E
Offline
Registriert seit: 19.11.2007 - 17:33
Beispiel

schreibe ein Programm in perl, welches die ersten 10 Primzahlen errechnet

 

Hier ist ein Perl-Programm, das die ersten zehn Primzahlen berechnet:

 

 

use strict;

use warnings;

 

my @primzahlen = (2);

for ($i=3; $i<=10; $i=$i+2) {

if (!exists($primzahlen[$i-2])) {

push(@primzahlen, $i);

}

}

print "@primzahlen\n";

Dieses Programm verwendet eine Schleife, um alle ungeraden Zahlen von 3 bis 10 zu durchsuchen und die Primzahlen aufzuzeichnen. Die Ergebnisse werden in einem Array namens `@primzahlen` gespeichert und am Ende des Programms ausgegeben.

Verarbeitungszeit 10 Sekunden ---> da kommt aber etwas "Müll raus", denn es werden als Ergebnis alle ungeraden Zahlen von 1-10 ausgegeben.

 

python macht das schon besser, da wird im Beispiel zwar nicht auf "die ersten 10 Primzahlen" eingegangen, aber es kommt ein korrektes Programm (mit Primzaheln zwischen 1 und 10) heraus:

schreibe ein Programm in python, welches die ersten 10 Primzahlen berechnet:

primzahlen = [2]
for i in range(3, 11):
    if all(i % j != 0 for j in primzahlen[:int(i // 2)] + [i - 1]):
        primzahlen.append(i)
print(primzahlen)

Dieses Programm verwendet eine Schleife, um alle ungeraden Zahlen von 3 bis 10 zu durchsuchen und die Primzahlen aufzuzeichnen. Die Ergebnisse werden in einem Array namens `primzahlen` gespeichert und am Ende des Programms ausgegeben.

Man muss also schon aufpassen, aber trotzdem ganz nett. U.a. auch so was:

 

gib mir die top 10 sehenswürdigkeiten in Stuttgart

 

Hier sind die Top 10 Sehenswürdigkeiten in Stuttgart:

 

1. Schlossplatz - ein großartiger Platz mit dem Alten Schloss und der Stadtbibliothek als Hauptattraktionen.

2. Mercedes-Benz Museum - eine Dauerausstellung, die sich auf die Geschichte von Mercedes-Benz konzentriert.

3. Wilhelma Zoologisch-Botanischer Garten - ein zoologischer und botanischer Garten mit einer großen Auswahl an Tieren und Pflanzen aus der ganzen Welt.

4. Schlossgarten - ein schöner Park direkt vor dem Alten Schloss, der zum Spazierengehen und Entspannen einlädt.

5. Kunstmuseum Stuttgart - eine Sammlung von Kunstwerken aus verschiedenen Epochen und Stilen.

6. Linden-Museum - das größte Völkerkundemuseum in Deutschland mit einer umfangreichen Sammlung von Artefakten und Ausstellungen über verschiedene Kulturen der Welt.

7. Schlossplatz - ein großartiger Platz mit dem Alten Schloss und der Stadtbibliothek als Hauptattraktionen.

8. Schillerplatz - ein historischer Platz, an dem sich das Grabmal von Friedrich Schiller befindet.

9. Stuttgart TV Tower - eine Aussichtsturm mit einer beeindruckenden Panoramasicht über die Stadt.

10. Weissenhofsiedlung - ein Architekturmuseum mit einem Beispiel der Moderne Architektur aus den 20er Jahren des letzten Jahrhunderts.

-->Passt Smile

 

Welcher Roman von Thomas Mann spielt auf einem Berg

Thomas Mann hat mehrere Romane geschrieben, die auf Bergen spielen oder in denen Berge eine wichtige Rolle haben. Einer der bekanntesten ist "Der Zauberberg" (englischer Titel: "The Magic Mountain"), der im Jahr 1924 veröffentlicht wurde und sich um einen jungen Mann namens Hans Castorp dreht, der zu einem Berg saniert wird, um seine Tuberkulose zu kurieren. Der Roman spielt hauptsächlich auf dem Berg und untersucht Themen wie Tod, Liebe, Vergebung und menschliche Existenz.

Satzteil "Hans, der zu einem Berg saniert wird" ist etwas komisch, aber insgesamt passt die Antwort...