5 current limitations of ChatGPT (Human answer vs. GPT's answer)

Habe die letzten Tage ChatGPT ausgiebig getestet und kann das Potential der Sprach-AI nur erahnen. Denke, dass AI in den nächsten Jahren viele Bereiche total disrupten wird.

Aber es formiert sich auch zunehmend Widerstand gegen KIs. Vor allem Berufsgruppen, die davon am stärksten betroffen sein könnten, stehen der Technologie skeptisch gegenüber. Webseiten verbieten KI-generierten Content. Reddit-Moderatoren von r/Bitcoin zensieren Beiträge, die die Fähigkeiten von ChatGPT demonstrieren.

Allerdings hat ChatGPT auch noch erhebliche Einschränkungen.

Was sind die 5 größten Limitierungen zur Zeit?

Meine Antwort

1 ChatGPT macht Fehler.

ChatGPT eignet sich im Moment eher weniger gut für Wissensfragen. Die Antworten klingen zwar in der Regel gut und überzeugend, aber es sind oft Fehler in den Antworten, die gerade bei harten Wissensfragen besonders auffallen. Auch eine 90% Antwort kann total falsch sein.

Habe GPT zum Beispiel gefragt, wer den Hauptkommissar in einer deutschen Krimi-Serie ("Der Alte") gespielt hat. Die AI hat aber die Serien verwechselt und irgendwelche Schauspieler ausgegeben, obwohl die Information grundsätzlich auf Wikipedia zu finden wäre.

2. Die AI hat kein logisches Verständnis für die Antworten. Und auch kein Bewusstsein. Noch.

Manchmal kommt es einem so vor, als würden einfach irgendwelche Texte zusammenkopiert werden, die in Summe keinen Sinn ergeben. Reden um den heißen Brei. Eine Fähigkeit, die auch manche Menschen ganz gut beherrschen sollen.

3. Die Länge der Antworten ist begrenzt.

ChatGPT hat derzeit ein Limit von 4000 Tokens (etwa 3000 Wörter), das die gesamte Konversation in einem Thread umfasst. Man kann also nicht erwarten, dass die AI im Moment ganze Romane oder Bücher verfassen kann, geschweige denn eine ganze Webseite oder Webapp für einen programmiert.

Andererseits wäre es vielleicht möglich, längere Texte durch Segmentierung zu erstellen, ähnlich wie das auch bei Bildgeneratoren möglich ist, obwohl deren Auflösung beschränkt ist.

4. ChatGPT ist rechenintensiv und skaliert im Moment nicht sehr gut.

AI-Modelle in dieser Größe sind sehr ressourcenintensiv und skalieren nicht auf Milliarden User. Warte nur darauf, bis die Medien einen Artikel bringen, dass AIs mehr Strom benötigen als das Land X. Oder dass die EZB behauptet, AI hätte keine Zukunft, wenn die erste große AI-Firma pleitegeht 😂

5. OpenAI hat alle möglichen Filter eingebaut, um die AI zu zensieren.

Was mich bei AIs im Moment am meisten stört ist, dass die Firmen Filter einbauen und deren Nutzung durch restriktive Lizenzbedingungen künstlich einschränken.

Mit Bildgeneratoren lassen sich zunehmend keine Akt-Bilder mehr generieren und Text-AIs verschwenden ihre Ressourcen damit, um Political-Correctness-Filter einzubauen.

Andererseits möchte man damit verhindern, dass die AIs zum Beispiel Bauanleitungen für Bomben ausgeben oder Suizide fördern. Hier eine Balance zu finden, wird schwierig bis unmöglich.

Was sagt ihr zu den Einschränkungen? Wie schnell denkt ihr, wird man diese Grenzen überwinden können und wie seht ihr das Potential von den GPT-Modellen?

Antwort von ChatGPT

ChatGPT ist eine Variante des GPT (Generative Pre-training Transformer)-Sprachmodells, das speziell für sprachgenerierende Aufgaben im Bereich des Chatbots entwickelt wurde. Es gibt mehrere Einschränkungen von ChatGPT und anderen ähnlichen Modellen:

1. Mangel an Allgemeinwissen: ChatGPT und andere Sprachmodelle besitzen kein inneres Verständnis der Welt oder Allgemeinwissen, weshalb sie Antworten produzieren können, die sinnlos oder unzusammenhängend sind.

2. Schwierigkeiten beim Verstehen von Kontext: ChatGPT und andere Sprachmodelle können Schwierigkeiten haben, den Kontext eines Gesprächs zu verstehen, insbesondere wenn das Gespräch lang oder mehrere Themen umfasst.

3. Schwierigkeiten beim Verfolgen von Gesprächsfäden: ChatGPT und andere Sprachmodelle können Schwierigkeiten haben, Gesprächsfäden zu verfolgen und frühere Aussagen in einem Gespräch zu behalten.

4. Empfindlichkeit gegenüber Veränderungen von Sprache oder Stil: ChatGPT und andere Sprachmodelle werden an großen Mengen von Textdaten trainiert und können daher empfindlich auf Veränderungen von Sprache oder Schreibstil reagieren. Dies kann sie weniger effektiv machen, wenn sie in Kontexten verwendet werden, in denen die Sprache oder der Stil erheblich von dem abweichen, an dem sie trainiert wurden.

5. Eingeschränkte Fähigkeit, Antworten zu generieren: ChatGPT und andere Sprachmodelle sind hauptsächlich dafür ausgelegt, Text zu generieren, und haben daher möglicherweise eine eingeschränkte Fähigkeit, Antworten in anderen Formaten zu generieren (z.B. Bilder oder Video). Sie können auch Schwierigkeiten haben, Antworten zu generieren, die ein hohes Maß an Kreativität oder Neuheit erfordern.

Limitations of ChatGPT

https://chat.openai.com/

ChatGPT is a variant of the GPT (Generative Pre-training Transformer) language model that was specifically designed for conversational language generation tasks. There are several limitations to ChatGPT and other similar models:

1. Lack of common sense: ChatGPT and other language models do not have an inherent understanding of the world or common sense knowledge, so they may produce responses that are nonsensical or unrelated to the conversation.

2. Difficulty understanding context: ChatGPT and other language models may struggle to understand the context of a conversation, particularly if the conversation is long or involves multiple topics.

3. Difficulty following conversation threads: ChatGPT and other language models may have difficulty following conversation threads and remembering earlier statements made in a conversation.

4. Sensitivity to changes in language or style: ChatGPT and other language models are trained on large amounts of text data, and as such, they may be sensitive to changes in language or writing style. This can make them less effective when used in contexts where the language or style is significantly different from what they were trained on.

5. Limited ability to generate responses: ChatGPT and other language models are primarily designed to generate text, and as such, they may have limited ability to generate responses in other formats (e.g., images or video). They may also struggle to generate responses that require a high level of creativity or novelty.

English

I have tested ChatGPT extensively over the last few days and can only guess at the potential of text AIs. Think that AI will totally disrupt many areas in the next few years.

But there is also increasing resistance to AI. Especially professional groups that could be most affected are skeptical of the technology. Websites ban AI-generated content. Reddit moderators from r/Bitcoin censor posts that demonstrate ChatGPT's capabilities.

However, ChatGPT also still has significant limitations.

What are the 5 biggest limitations at the moment?

My answer

1 ChatGPT makes mistakes.

ChatGPT is rather less suitable for knowledge questions at the moment. The answers usually sound good and convincing, but there are often mistakes in the answers, which are especially noticeable in hard knowledge questions. Even a 90% answer can be totally wrong sometimes.

For example, I asked GPT who played the main commissioner in a German crime series ("Der Alte"). But the AI mixed up the series and gave out random actors, although the information could basically be found on Wikipedia.

2. The AI has no logical understanding of the answers. And also no consciousness. Yet.

Sometimes it feels like just copying some texts together that don't make any sense. Talking around the bush. A skill that also some humans are supposed to be quite good at.

3. The length of the replies is limited.

ChatGPT currently has a limit of 4000 tokens (about 3000 words), which covers the entire conversation in a thread. So you can't expect the AI to be able to write entire novels or books right now, let alone program an entire website or webapp for you.

On the other hand, it might be possible to create longer texts by segmentation, similar to what can be done with image generators, although their resolution is limited.

4. ChatGPT is computationally intensive and does not scale very well at the moment.

AI models this size are very resource intensive and don't scale to billions of users. Just wait for the media to run an article that AIs need more energy than country X. Or that the ECB claims AI has no future when the first big AI company goes out of business 😂

5. OpenAI has all kinds of filters built in to censor AI.

What bothers me most about AIs right now is that companies are building in filters and artificially limiting their use through restrictive licensing terms.

Increasingly, image generators can't be used to generate nude art, and text AIs are wasting their resources to include political correctness filters.

On the other hand, people want to prevent AIs from handing out building instructions for bombs or promoting suicides, for example. Finding a balance here will be difficult to impossible.

What do you think about the restrictions? How quickly do you think it will be possible to overcome these limits and how do you see the potential of the GPT models?

Live your Secrets and Hive Prosper 🍯

xx Viki @vikisecrets

Posted with STEMGeeks