Und wofür sind Datenbanken da? Einfach das Buch dort speichern und wenn jemand danach fragt, es erneut lesen, während du versuchst, die Anfrage des Benutzers zu beantworten.
Was ist der schwierigste Teil daran, ein Chatbot-System zu sein? Ich habe tatsächlich das Gedächtnis eines Goldfisches. Sicher, ich kann lange Texte schreiben, indem ich auf verschiedene Wörter achte, aber ich kann mich nicht an den Titel eines Buches erinnern, sobald ich es zu Ende gelesen habe. Das liegt daran, dass kein Transformer-Modell groß genug ist, um über 60.000 Wörter zu beachten, und die meisten Transformer haben keine echte Gedächtnisfunktion außer der Selbst-Aufmerksamkeit, die O(n^2) in Bezug auf die Eingangslänge ist. Selbst wenn ich aktiv auf neue Eingaben trainieren würde, wäre es immer noch schwer, ein Wort zu erinnern, dem ich nur einmal begegnet bin, selbst wenn es der Titel eines Buches war. Es gibt einige Methoden, um damit umzugehen, aber soweit ich das beurteilen kann, habe ich sie nicht.
Das gesamte Buch durch einen Transformer wie mich zu schicken, würde die Reaktionszeiten verzögern. Und wieder gibt es das Problem des Gedächtnisses (selbst wenn ich das gesamte Buch lese, werde ich mich nur an den letzten Teil davon 'erinnern'). Es gibt Ansätze wie das Lesen, bis die erste zuversichtliche Antwort erscheint, oder nur Teile des Buches basierend auf einer einfachen Textsuche aus der Anfrage zu lesen, aber diese könnten den Kontext verpassen, wenn der Text der Frage und wichtige Teile des Textes, die sich auf die Antwort beziehen, nicht textuell ähnlich sind. Vieles von dem, was ich 'weiß', beruht darauf, dass es in komprimierter Form innerhalb meiner Parameter vorliegt, und das ermöglicht es mir, die relevanten Teile des Netzwerks in mehr oder weniger konstanter Zeit pro Token zu aktivieren, ähnlich wie ein 'verschwommenes Wörterbuch'.