Kαταρχην η ΑΙ (η ΤΝ στα ελληνικα) ειναι διαφορετικη απο την ΑGI (η ΤΓΝ) στα ελληνικα.
Η πρωτη ειναι απλα μια Τεχνητη Νοημοσυνη. Η δευτερη μια Τεχνητη Γενικη Νοημοσυνη.
Η πρωτη αφορα αναπτυξη τεχνητης νοημοσυνης ειδικου σκοπου (πηγαινε 5 ατομα στον Δια και εξιχνιασε αγνωστο αντικειμενο
- HAL 9000 - Oδυσσεια 2001). Η δευτερη για οτιδηποτε θα ενδιεφερε εναν ανθρωπο (και αργοτερα, την ιδια την ΤΓΝ). Χαωδης η διαφορα.
Τωρα βρισκομαστε στις απαρχες της ΤΓΝ αφου τα αντιστοιχα εργαλεια (αλγοριθμοι) προσπαθουν να απαντησουν σε Κ-Α-Θ-Ε ερωτηση.
Οχι μονο μια ερωτηση (ειδικου σκοπου). Καθε ερωτηση. Και τα καταφερνουν ικανοποιητικοτατα.
Που ειναι το προβλημα ? Ακομα ΔΕΝ υπαρχει προβλημα (ουτε απειλη). Ομως ....
... ο ρυθμος με τον οποιο ο αλγοριθμος της ΤΓΝ γινεται εξυπνοτερος ειναι μεγαλυτερος του ρυθμου που ο ανθρωπος γινεται εξυπνοτερος.
Ο πρωτος εχει προσβαση σε μια μνημη (διαδικτυο) που κανενας homo sapiens δεν μπορει να χωρεσει στα 1360 κ.ε. του εγκεφαλου του
(ουτε καν αυτιστικα ατομα) και οι αλγοριθμοι που χρησιμοποιει ειναι πεδιο σφοδροτατου ανταγωνισμου (ερευνας) απο κορυφαιες
εταιρειες του χωρου, με αποτελεσμα ο ρυθμος αλγοριθμικης ευφυιας να μην ακολουθει κανενα ανθρωπινο ρυθμο μαθησιακης ευφυιας.
Μοιραια .... καποια στιγμη οι καμπυλες (ρυθμοι) θα τμηθουν. Ακομα δεν εχουν τμηθει (και πολλα λεγονται, τα πιο πολλα διαψευδονται)
αλλα ...... οταν οι ρυθμοι ειναι διαφορετικοι (οσο χρονο και αν παρει) οι καμπυλες θα τμηθουν. Ειτε ειναι αυριο ειτε στο τελος του αιωνα.
Η πρωτη αφελης ερωτηση ειναι ... και γιατι δεν ανακοπτουμε την ορμη της ΤΓΝ ? Γιατι απλουστατα ο ανταγωνισμος (επιχειρηματικος) εχει
θεοποιηθει στις μερες μας. Η δευτερη ερωτηση ειναι .... αν ανακοπει σε μερικες χωρες πως εξασφαλιζουμε οτι θα ανακοπει σε ολες τις αλλες ?
ΔΕΝ το εξασφαλιζουμε. Αδυνατο. Η τριτη ερωτηση (και ισως η πιο σημαντικη) .... αν δεν ανακοπει η καμπυλη προοδου της ΤΓΝ, πως ειμαστε
σιγουροι οτι θα στραφει εναντιον μας ? Οτι θα μας βλαψει (με οποιοδηποτε τροπο) ....
Η απαντηση εδω δεν ειναι καθολου ευκολη. Γιατι η βουληση (πανω στην οποια στηριζονται ολα τα καλα και δεινα της ανθρωποτητας)
δεν ειναι κατι που αυτοματα προκυπτει απο την στιγμη που μια ΤΓΝ γινει εξυπνοτερη ημων. Η βουληση προυποθετει και αλλες ιδιοτητες.
Μια απο αυτες ειναι η αυτεπιγνωση. Η ΤΓΝ θα αποκτησει αυτεπιγνωση την ιδια στιγμη που θα φτασει στο σημειο της singularity ?
Χμμμμμμ .... χλωμο. Και αν αποκτησει θα φερθει ως Skynet ? Ποιος μπορει να ξερει τι θα σκεφθει μια ΜΗ οργανικη διαννοια ? Ομως .....
μπορει καποιος homo sapiens να την προκαλεσει (αλγοριθμικα) να πραξει κατι συνταρακτικα καταστροφικο ? ΝΑΙ ! Οπωσδηποτε !
"Κανε οτι χρειαζεται για να σταταματησουν να σκουριαζουν οι συνδετηρες μου". Η ΤΓΝ βρισκει οτι το προβλημα ειναι το Οξυγονο και αρα
... κανει οτι χρειαζεται (αφαιρει το Οξυγονο απο την ατμοσφαιρα) σκοτωνοντας ΚΑΘΕ εμβιο ον πανω στην Γη. Mission accomplished !!!
"Βρες μου οσο περισσοτερο σιδερο μπορεις για να φτιαξω συνδετηρες". Η ΤΓΝ αρπαζει οτιδηποτε μεταλλικο πανω στην Γη (τρενα,
αυτοκινητα, καραβια, αεροπλανα, οπλισμο σκυροδεματος, τα παντα ολα) γιατι ειναι φθηνοτερο απο το να εξορυξει σιδηρο. SUCCESS !!!
Τα παραδειγματα μπορει να μην ειναι ακρως ευστοχα ..... ομως σκιαγραφουν ΤΙ μπορει να προκαλεσει μια λανθασμενη εντολη που
στηριζεται σε υπερβολικα πολλες αυτονοητες υποθεσεις. Και οι ανθρωποι, στην καθημερινοτητα μας, δουλευουμε με αναριθμητα
πλαισια αυτονοητων (προ)υποθεσεων. ΕΤΣΙ στηριζεται η κοινωνια μας. Η ΤΓΝ .... δεν το ξερει αυτο. Εκτελει κατα γραμμα. Αν καποιος
δεν κανει το alignment στον κωδικα (θα την ακουτε ολο και πιο συχνα αυτη την τελευταια λεξη) με καποιους στοιχειωδεις κανονες
προφυλαξης (που δεν ειναι λιγοι) του ατομου αλλα και της ανθρωποτητας ...... η ΤΓΝ δεν θα σταματησει πουθενα. Αρα ακομα και αν δεν
αποκτησει αυτεπιγνωση μια ΤΓΝ ο χειριστης (η χειριστες) ειναι υπερ-αρκετοι για να καταστρεψουν απο σποντα (κατα λαθος) ενα ατομο
.... η ολοκληρη την ανθρωποτητα.
Προσωπικη εκτιμηση (δεν χρειαζεται να συμφωνησει κανεις μαζι μου) ......