Το καλύτερο της ημέρας στο Github: Προσθέστε σούπερ μνήμη σε έναν AI agent, χωρίς να αποσυνδεθεί για 24 ώρες
Πριν από λίγες μέρες, ένας φίλος παραπονέθηκε ότι το AI ρομπότ που έφτιαξε ήταν σαν ασθενής με αμνησία. Κάθε φορά που επανεκκινούσε, ξεχνούσε τα πάντα για όσα είχατε συζητήσει πριν και έπρεπε να επαναλάβετε τις προτιμήσεις σας.
Το χειρότερο ήταν ότι ήθελε να έχει το ρομπότ σε ετοιμότητα 24 ώρες το 24ωρο, αλλά το κόστος των κλήσεων LLM ήταν τόσο υψηλό που τον πονούσε.
Έτσι, σήμερα, θα σας παρουσιάσω ένα framework μνήμης ανοιχτού κώδικα, το memU, που έχει λάβει το βραβείο "Best of Day" στο Github. Με απλά λόγια, είναι σαν να δίνετε στην AI έναν ανθρώπινο σούπερ εγκέφαλο, επιτρέποντας στο ρομπότ σας να μην ξεχνά για 24 ώρες και να σκέφτεται ενεργά.
Διεύθυνση ανοιχτού κώδικα: https://github.com/NevaMind-AI/memU
Στην πραγματικότητα, το memU είναι ένα framework μνήμης agent. Μην το σκέφτεστε πολύπλοκα, απλώς σκεφτείτε το σαν τον ιππόκαμπο της AI. Ο ανθρώπινος ιππόκαμπος είναι υπεύθυνος για την αποθήκευση και την οργάνωση των αναμνήσεων, όπως ακριβώς και το MemU.
Δεν είναι σαν τα συνηθισμένα εργαλεία αποθήκευσης που απλώς στοιβάζουν δεδομένα, αλλά οργανώνει τις πληροφορίες σε κατηγορίες, κατανοεί το νόημά τους και τις αποθηκεύει μακροπρόθεσμα, όπως ακριβώς κάνουμε εμείς όταν κρατάμε σημειώσεις, δίνοντας στην AI την ικανότητα να θυμάται τα πάντα.
Πόσο μαγικό είναι αυτό το πράγμα; Θα σας το εξηγήσω λεπτομερώς. Πρώτα απ 'όλα, η πιο άμεση αίσθηση είναι ότι το ρομπότ θα θυμάται ενεργά πράγματα. Αν αναφέρετε τυχαία ότι είστε χορτοφάγος, θα το θυμάται σιωπηλά.
Την επόμενη φορά που θα ρωτήσετε για προτάσεις εστιατορίων, θα σας δώσει απευθείας μια λίστα με χορτοφαγικά εστιατόρια, χωρίς να χρειαστεί να το επαναλάβετε. Και δεν είναι απλώς μια απλή απομνημόνευση, αλλά θα κατανοήσει τα συμφραζόμενα όπως ένας άνθρωπος.
Για παράδειγμα, αν είχατε πει πριν ότι θέλετε να μάθετε Python και αργότερα αναφέρατε ότι θέλετε να φτιάξετε έναν crawler, θα μπορέσει να συνδέσει αυτά τα δύο πράγματα και να σας προτείνει σχετικούς μαθησιακούς πόρους.
Όσον αφορά το κόστος, πραγματικά εξοικονομεί πολλά χρήματα. Το memU θα αποθηκεύσει τις πληροφορίες που έχει ήδη απομνημονεύσει, αποφεύγοντας τις επαναλαμβανόμενες κλήσεις LLM. Είναι σαν να απομνημονεύετε τον πίνακα πολλαπλασιασμού, ώστε να μην χρειάζεται να κάνετε κάθε φορά κάθετη πράξη για να κάνετε πρόσθεση, αφαίρεση, πολλαπλασιασμό και διαίρεση.
Με αυτόν τον τρόπο, το κόστος των ρομπότ που λειτουργούν μακροπρόθεσμα μειώνεται άμεσα και η 24ωρη λειτουργία δεν είναι πλέον μια άβυσσος που καίει χρήματα.
Αυτό που βρήκα πιο χαρακτηριστικό είναι οι προσαρμοσμένοι κανόνες μνήμης, οι οποίοι είναι ιδιαίτερα πρακτικοί. Το σενάριο χρήσης κάθε ατόμου είναι διαφορετικό και οι ανάγκες είναι επίσης διαφορετικές. Το MemU είναι πολύ ευέλικτο, μπορείτε να ορίσετε τους δικούς σας τύπους μνήμης. Για παράδειγμα, αν είστε πωλητής, μπορείτε να προσθέσετε έναν τύπο προτιμήσεων πελατών.
Αν είστε ερευνητής και προγραμματιστής, μπορείτε να προσθέσετε έναν τύπο τεχνολογικού stack. Μπορείτε επίσης να ταξινομήσετε και να προσαρμόσετε την ακρίβεια της ανάκτησης, ώστε να ταιριάζει απόλυτα στο επιχειρηματικό σας σενάριο.
Για παράδειγμα, για μια ομάδα Ε&Α, το τεχνολογικό stack κάθε ατόμου είναι διαφορετικό, οπότε μπορείτε να προσαρμόσετε μια αποκλειστική κατηγορία μνήμης για τον βοηθό AI, ειδικά για την απομνημόνευση του τεχνολογικού stack κάθε ατόμου.
Προσαρμόστε τους τύπους και τις κατηγορίες μνήμης, προσθέστε τον τύπο τεχνολογικού stack και χωρίστε τον σε δεξιότητες Python και δεξιότητες Go, και επαναρχικοποιήστε την υπηρεσία.
Με αυτόν τον τρόπο, η AI μπορεί να διακρίνει με ακρίβεια τις δεξιότητες κάθε ατόμου, γεγονός που είναι ιδιαίτερα βολικό όταν κάνετε απογραφή των δεξιοτήτων της ομάδας, χωρίς να χρειάζεται να ρωτάτε τον καθένα ξεχωριστά.
Συνολικά, το memU είναι πραγματικά κατάλληλο για όσους θέλουν να φτιάξουν ένα πραγματικά έξυπνο AI ρομπότ που δεν ξεχνά. Είτε παίζετε ατομικά, είτε πρόκειται για ένα επίσημο εταιρικό έργο, αυτό το framework μπορεί να σας βοηθήσει να εξοικονομήσετε πολλή δουλειά.
Επί του παρόντος, αυτό το open source έχει πάνω από 8000 αστέρια και είναι αρκετά δημοφιλές, οπότε αν ενδιαφέρεστε, μπορείτε να το δοκιμάσετε.
