We find that frontier LLMs are surprisingly good at natively reading and writing neural network weights, using a variety of recent tools and algorithms or even via direct weight editing.
rikiyat.github.io
Καλά πάμε!
Λόγω έλλειψης χρόνου το παρακάτω σε συνεργασία με το ChatGPT.
Μια νέα έρευνα από το MIT, που δημοσιεύθηκε στις 2 Νοεμβρίου 2026, μας δίνει μια πρώτη γεύση από κάτι που μέχρι πρόσφατα έμοιαζε με επιστημονική φαντασία.
Μια Τεχνητή Νοημοσύνη μπορεί πλέον, υπό συγκεκριμένες συνθήκες, να εξετάσει το εσωτερικό μιας άλλης, να εντοπίσει προβλήματα και να τα διορθώσει απευθείας!
Οι τιμές των βαρών καθορίζουν πώς η μηχανή επεξεργάζεται τις πληροφορίες και παίρνει αποφάσεις.
Μέχρι σήμερα, για να βελτιώσουμε μια τέτοια μηχανή, συνήθως την εκπαιδεύουμε με πολλά παραδείγματα, επαναλαμβάνοντας τη διαδικασία χιλιάδες ή εκατομμύρια φορές, με σημαντικό υπολογιστικό κόστος.
Τι θα γινόταν όμως αν μπορούσαμε απλώς να πούμε σε μια Τεχνητή Νοημοσύνη: «Κοίτα μέσα σε αυτή τη μηχανή, βρες τι δεν λειτουργεί σωστά και διόρθωσέ το»;
Αυτό ακριβώς δοκίμασαν οι ερευνητές του MIT, χρησιμοποιώντας το GPT-6 Astra.
Και τα αποτελέσματα είναι εντυπωσιακά.
Σε ένα πείραμα, το σύστημα κατάφερε να καταλάβει ποιο ηλεκτρονικό παιχνίδι είχε μάθει να παίζει ένα άλλο νευρωνικό δίκτυο, εξετάζοντας μόνο τους αριθμούς που αποτελούσαν τα «βάρη» του.
Σε ένα άλλο, δημιούργησε από το μηδέν νευρωνικά δίκτυα που έπαιζαν απλά ηλεκτρονικά παιχνίδια, χωρίς να χρειαστεί να τα εκπαιδεύσει με τη συμβατική μέθοδο. Αλλά το πιο ενδιαφέρον πείραμα αφορούσε ένα πραγματικό μοντέλο Τεχνητής Νοημοσύνης με 800 εκατομμύρια παραμέτρους. Το μοντέλο είχε ένα σοβαρό πρόβλημα: συχνά παγιδευόταν σε ατελείωτες επαναλήψεις αντί να ολοκληρώνει τις απαντήσεις του. Το Astra εντόπισε την αιτία και άλλαξε μόλις
το 0,016% των παραμέτρων του!
Το αποτέλεσμα; Η επίδοσή του σε ένα συγκεκριμένο τεστ μαθηματικών αυξήθηκε από 7,9% σε 48,1%. Δεν απέκτησε ξαφνικά όλες αυτές τις νέες μαθηματικές γνώσεις. Κυρίως απαλλάχθηκε από ένα πρόβλημα που το εμπόδιζε να αξιοποιήσει όσα ήδη μπορούσε να κάνει.
Οι επιστήμονες ονομάζουν αυτή την προσέγγιση
Weight-Space Progrmming, δηλαδή προγραμματισμό απευθείας πάνω στις εσωτερικές παραμέτρους των νευρωνικών δικτύων.
Και τι μπορεί να σημαίνει αυτό για το μέλλον;
Φανταστείτε έναν κόσμο στον οποίο δεν χρειάζεται πάντοτε να ξαναεκπαιδεύουμε ένα σύστημα Τεχνητής Νοημοσύνης για να το βελτιώσουμε. Θα μπορούσαμε να εντοπίζουμε και να διορθώνουμε συγκεκριμένα σφάλματα, να εξετάζουμε τι έχει πραγματικά μάθει ένα μοντέλο και να ανακαλύπτουμε ανεπιθύμητες συμπεριφορές πριν προκαλέσουν προβλήματα. Θα μπορούσαμε ενδεχομένως να δημιουργούμε πιο εξειδικευμένα συστήματα, με πολύ μικρότερο κόστος σε χρόνο, υπολογιστική ισχύ και ενέργεια. Και, ακόμη πιο μακριά στο μέλλον, να αναπτύξουμε συστήματα που θα βοηθούν στον σχεδιασμό και τη βελτίωση νέων γενεών Τεχνητής Νοημοσύνης.
Φυσικά, δεν έχουμε φτάσει ακόμη εκεί. Τα πειράματα είναι πρώιμα, η μέθοδος δεν πέτυχε σε όλες τις δοκιμές και κανείς δεν έχει αποδείξει ότι μπορεί να εφαρμοστεί με την ίδια επιτυχία σε κάθε σύστημα. Επιπλέον, όσο μεγαλύτερη γίνεται η δυνατότητα μιας Τεχνητής Νοημοσύνης να τροποποιεί άλλες, τόσο σημαντικότερο γίνεται να ελέγχουμε την ασφάλεια και τις συνέπειες αυτών των παρεμβάσεων.
Ωστόσο, η ουσιαστική αλλαγή είναι βαθύτερη από την αύξηση μιας επίδοσης σε ένα τεστ.
Μέχρι σήμερα, η Τεχνητή Νοημοσύνη ήταν κυρίως κάτι που οι άνθρωποι κατασκευάζαμε, εκπαιδεύαμε και προσπαθούσαμε να κατανοήσουμε. Τώρα αρχίζουμε να βλέπουμε την πιθανότητα να γίνει και εργαλείο κατανόησης, σχεδιασμού και βελτίωσης της ίδιας της Τεχνητής Νοημοσύνης.
Ίσως, λοιπόν, το επόμενο μεγάλο άλμα να μην είναι απλώς να φτιάξουμε μια Τεχνητή Νοημοσύνη που γνωρίζει περισσότερα, αλλά μια Τεχνητή Νοημοσύνη που μας βοηθά να κατανοούμε και να βελτιώνουμε τον τρόπο με τον οποίο οι μηχανές μαθαίνουν.
Και αυτό μπορεί να αλλάξει ουσιαστικά τον τρόπο με τον οποίο αναπτύσσουμε την τεχνολογία τα επόμενα χρόνια.
Και το δικό μου συμπέρασμα είναι ότι όπως είπαμε πριν μερικούς μήνες ότι λύσαμε το coding, μετά ότι λύσαμε τα μαθηματικά τώρα μάλλον είμαστε στην αρχή να λύσουμε τα Narrow AI Systems που είναι στην ουσία αυτά που τρέχουν τον κόσμο μας με τους αυτοματισμούς και τον έλεγχο που προσφέρουν. Αυτά τα συστήματα που ακόμη και οι πιο συντηρητικοί πιστεύουν ότι πρέπει να επεκτείνουμε τη χρήση τους άμεσα.
