#1

Oliver

Forum-Sponsor  (115 Punkte)  ·   männlich  ·   Deutschland  ·   Nachricht senden

Siquando Pro 10 Web/Shop bietet ja nicht nur die Möglichkeit zur Installation eines lokalen Sprachmodells auf Llama-Basis, was ideal für den Datenschutz ist aber sehr von der Performance des Rechners abhängig ist, sondern auch die API-Nutzung zu allen führenden KI-Anbietern wie z.B. auch OpenAI (ChatGPT).

Da viele User KI-LLMs wie ChatGPT, Gemini oder Claude meistens über Cloud-Abos und nicht über API-Konten nutzen (die keine pauschalen Monatsgebühren haben, sondern nach Token-Nutzung abgerechnet werden), ist es vielleicht interessant mal praktische Kosten zu teilen.

Wir haben in einem umfangreichen Projekt in den letzten zwei Wochen über 700 Bilder und Grafiken vollkommen beschriften lassen. Aus Siquando Pro 10 heraus und über unsere OpenAI-API-Schnittstelle. Um die Kosten möglichst transparent nachverfolgen zu können haben wir extra ein weiteres API-Konto angelegt und anders als bei unserem Hauptkonto ein sehr niedriges Guthaben und sehr niedrige Limits festgelegt, damit es keine Kostenfalle gibt. Über die 700 Bilder hinweg, die allesamt wirklich hervorragend beschriftet und betitelt worden sind, haben wir dann auch einen weiteren Zahlungs-Alert und Aufladung gehabt. Die Gesamt-API-Nutzungskosten für alle Bilder: 10,11 EUR.

Fix und Fertig aus Siquando und in Siquando, Minimaler Zeitaufwand für eine Endkontrolle und ganz wenige kleine Optimierungen.

Wenn man diese 10,11 EUR gegen die eingesparte Zeit vergleicht, wird deutlich wie nützlich die KI-Integration in Siquando Pro 10 ist!

Ich will mit diesem Post jetzt keine Diskussion auslösen, ob Gemini oder Claude vielleicht für manche Aufgaben noch bessere Ergebnisse erzielen oder ob die lokal installierte "Siquando KI" eventuell kostenlos ähnlich gute Ergebnisse erzielt. Ich will vielmehr dazu ermutigen, dass alle Pro 10 Nutzer, die eventuell Performance-Probleme mit der lokalen KI haben oder selber eine Scheu vor einem API-Konto haben, dies trotzdem einmal testen. Mit der beschriebenen Vorgehensweise (niedriges Initial-Guthaben und niedrige Limits) lässt sich jedes Kostenrisiko deckeln. Natürlich ist die Erstellung ganzer Seitentexte von der Token-Nutzung her teurer als eine Bildbeschriftung. Aber der Aha-Effekt dürfte ähnlich sein wie 10,11 EUR für mehr als 700 vollständig und sehr gut beschrifteter Bilder.

Also einfach mal ausprobieren! Viel Erfolg!!

VG Oliver

P.S. Gerade bei Produkten sind die aktuellen LLMs sehr stark in der Erkennung und Beschreibung. Bei Feature-Bildern ist das Ergebnis auch sehr gut. Bei Personen sollte der Name im Dateinamen vorkommen und wird dann aufgegriffen, allerdings erkennt die KI dann natürlich nur antrainierte Prominente und ergänzt bei "unbekannteren" Personen zum Namen eine recht detaillierte Beschreibung von Kleidung und Mimik. Im Hinblick auf die Bildbeschreibung für Barrierefreiheit aber dennoch wertvoll.

P.P.S. Die Konfiguration der API-Schnittstelle in Siquando Pro 10 ist sekundenschnell gemacht. Sobald ein gültiger API-Key, zum Beispiel von OpenAI, einkopiert wird, zeigt Siquando Pro 10 alle verfügbaren LLM-Versionen. Wunschversion auswählen, fertig.    

Wer hat auch schon ähnlich erfolgreiche Erfahrungen mit der KI-Integration in Siquando Pro 10 gemacht? Das ist sicher für alle interessant.

#2

alter

Forum-Sponsor  (1380 Punkte)  ·   männlich  ·   Schweiz  ·   Nachricht senden
 https://www.petrollampen-shop.ch

Hallo Oliver

Vielen Dank für deinen interessanten Erfahrungsbericht. Ich kann deine Einschätzung absolut nachvollziehen.

Ich nutze selbst ChatGPT Pro und erstelle damit unter anderem meine Rubrikbilder, Beitragsbilder und viele weitere Inhalte. Die Ergebnisse sind meist sehr überzeugend und die Zeitersparnis ist enorm.

Der Hauptgrund, weshalb ich aktuell nicht die lokale KI von Siquando nutze, ist nicht die Leistung meines Rechners. Die lokale KI mag für viele Aufgaben durchaus in Ordnung sein, mir dauert die Verarbeitung jedoch oft zu lange. In der Wartezeit bin ich häufig schneller, wenn ich direkt mit ChatGPT arbeite und die Ergebnisse kopiere. Über die direkte ChatGPT-Lösung läuft für mich vieles deutlich schneller und komfortabler.

Gerade die Integration von KI in Siquando Pro 10 finde ich deshalb sehr spannend. Viele Nutzer haben vielleicht Bedenken wegen möglicher Kosten, aber dein Praxisbeispiel zeigt sehr schön, dass diese bei sinnvoller Nutzung oft überraschend niedrig ausfallen. Wenn man den Zeitgewinn dagegenstellt, rechnet sich das schnell.

Vielen Dank fürs Teilen deiner Erfahrungen. Solche Praxisberichte helfen sicher vielen Anwendern bei der Entscheidung, die KI-Funktionen einfach einmal auszuprobieren.

@Ich nutze zwar ChatGPT Pro und erstelle damit meine Rubrikbilder sowie viele weitere Inhalte, aber soweit ich weiss, könnte man ChatGPT auch direkt in Siquando einbinden. Allerdings reicht dafür meines Wissens die Pro-Version nicht aus, da für die Anbindung eine OpenAI-API benötigt wird. Das sind zwei unterschiedliche Modelle: ChatGPT Pro ist ein Abo für die Nutzung über die ChatGPT-Oberfläche, während die Integration in Siquando über ein separates API-Konto läuft, das nach Nutzung abgerechnet wird.


viele Grüsse René

#3

alter

Forum-Sponsor  (1380 Punkte)  ·   männlich  ·   Schweiz  ·   Nachricht senden
 https://www.petrollampen-shop.ch

Hallo Oliver,

in der Zwischenzeit habe ich ebenfalls OpenAI in meinen Shop eingebaut und testweise rund 30 Bilder automatisch beschriften lassen.

Mit OpenAI funktioniert das erstaunlich schnell. Auch die Einbindung von OpenAI in Siquando war unkompliziert und problemlos möglich. Selbst für mich mit meinen 71 Lenzen war das kein Hexenwerk und schnell eingerichtet.

Allerdings hat die KI bei meinem speziellen Sortiment – insbesondere bei Ersatzteilen für Petrollampen – teilweise noch Mühe, die Bilder sachlich und fachlich korrekt zu beschreiben. Das ist aufgrund der Spezialisierung des Themas aber durchaus verständlich.

Trotzdem ist dieser Weg für mich aktuell die bessere Lösung. Im Vergleich zur lokalen KI läuft die Verarbeitung deutlich schneller, und die erzeugten Texte werden direkt den entsprechenden Bildern zugeordnet. Das spart das ständige Kopieren und Einfügen und macht den gesamten Ablauf wesentlich effizienter.

Auch die Kostenbegrenzung bei OpenAI funktioniert genau so, wie du es beschrieben hast. Dadurch bleiben die Ausgaben jederzeit kontrollierbar.

Aus meiner Sicht ist die neue KI-Funktion von Siquando daher wirklich gelungen und im Alltag gut nutzbar. Der einzige Nachteil der lokalen KI-Variante ist die vergleichsweise träge Geschwindigkeit – selbst auf einem relativ leistungsfähigen Rechner.


viele Grüsse René

#4

Oliver

Forum-Sponsor  (115 Punkte)  ·   männlich  ·   Deutschland  ·   Nachricht senden

Hallo René,

das freut mich! Sehr gut!

Ich habe diesen Beitrag gerade deswegen gemacht, damit der typische erste Eindruck "lokale KI läuft langsam" nicht den Spaß an den Möglichkeiten der neuen KI-Integration in Siquando Pro 10 verdirbt.

Denn die gefühlte Trägheit einer lokalen KI-Installation hat nichts mit Siquando zu tun, sondern ist ein Thema das Du nur mit dedizierten performanenten Servern im eigenen lokalen Rechenzentrum eines Unternehmens gelöst bekommst oder mit einem Hochrüsten des eigenen Client-Rechners, wobei da wie auch in den riesigen Cloud-Rechenzentren nicht der Hauptprozessor des Rechners entscheidend ist, sondern dedizierte Highend-Grafikkarten - die ein Windows-Notebook in der Regel nicht hat. Und ein Apple-Rechner mit aktuellem M-Prozessor ist zwar schon viel besser aufgestellt wird aber dann durch die Nutzung von z.B. Parallels im Hinblick auf die lokale KI-Nutzung ausgebremst. IT-begeisterte können den von Siquando mitgelieferten lokalen AI-Server auch zum Beispiel auf einen Mac Mini mit M4 Prozessor installieren und dann vom Windows-Rechner mit Siquando Pro 10 über das Netzwerk darauf zugreifen. Das ist sehr performant, aber eher schon eine Experten-Lösung. Ich hallte das alles daher eher für den zweiten und dritten Schritt, nachdem man festgestellt hat wie wertvoll die KI-Integration in Siquando sein kann.

Daher ist die Vorgehensweise, die Du jetzt gemacht hast und die ich initial beschrieben hatte für den Start eigentlich das allerbeste. Und schön dass Du mir beipflichtest, dass so ein API-Konto nicht komplizieet einzurichten ist und noch einfacher dann in Siquando eingetragen und aktiviert werden kann.

Dein Petrollampen-Thema ist sicherlich erst einmal eine Herausforderung für jedes Sprachmodell. Aber auch das kannst Du ja daraufhin trainieren. Das sprengt jetzt hier den Rahmen und hat nichts mit Siquando Pro 10 zu tun, aber sobald das Sprachmodell Deine Lampen besser kennt profitierst Du dann natürlich im Siquando Pro Shop davon.

Fazit: Selbst sehr leistungsfähige Rechner sind nicht wirklich optimal für lokale KI, es sei denn sie haben sehr leistungsfähige Highend-Grafikkarten. Daher führt es im ersten Schritt schneller zum Erfolg ein API-Konto (zum Beispiel von OpenAI / ChatGPT) zu nutzen und dass in Siquando Pro 10 als Schnittstelle zu aktivieren. Später kann man sich immer noch dem Thema lokale KI-Nutzung schrittweise nähern. 

VG Oliver


Dieser Beitrag wurde bereits 3 mal bearbeitet, zuletzt von »Oliver« (Gestern, 21:13)
110 Aufrufe | 4 Beiträge