Artificial Intelligence

[Kosh]

Bill Gates: Απειλή για την ανθρωπότητα η τεχνητή νοημοσύνη


Ο ιδρυτής της Microsoft Μπιλ Γκέιτς δήλωσε ότι οι άνθρωποι θα έπρεπε να θεωρούν απειλή την τεχνητή νοημοσύνη και να ανησυχούν για τις πιθανές επιπτώσεις της. Όπως είπε, δεν μπορεί να καταλάβει γιατί η ανθρωπότητα δεν φαίνεται να προβληματίζεται πιο σοβαρά για την πιθανότητα η τεχνητή νοημοσύνη να γίνει τόσο ισχυρή, που θα καταντήσει ανεξέλεγκτη.
Οι ανησυχίες αυτές του Μπιλ Γκέιτς έρχονται σε ευθεία αντίθεση με τις απόψεις ενός κορυφαίου στελέχους της Microsoft, του διευθυντή ερευνών Έρικ Χόρβιτς, ο οποίος δήλωσε πρόσφατα ότι δεν βλέπει κάτι απειλητικό στην τεχνητή νοημοσύνη.
Όπως αποκάλυψε ο Έρικ Χόρβιτς, περίπου το ένα τέταρτο των ερευνητικών δραστηριοτήτων της εταιρείας εστιάζονται στην τεχνητή νοημοσύνη.
Από την πλευρά του όμως, σύμφωνα με το BBC, ο ιδρυτής της Microsoft ξεκαθάρισε πως «ανήκω στο στρατόπεδο που ανησυχεί για την σούπερ-νοημοσύνη.
Αρχικά οι μηχανές θα κάνουν πολλές δουλειές για μας και δεν θα είναι πολύ έξυπνες. Αυτό θα είναι θετικό, αν το χειριστούμε σωστά. Όμως μετά από μερικές δεκαετίες, η (τεχνητή) νοημοσύνη θα γίνει αρκούντως δυνατή για να αποτελεί πηγή ανησυχίας».
Άλλες προσωπικότητες της επιστήμης και της τεχνολογίας, όπως ο Στίβεν Χόκινγκ και ο Έλον Μασκ, έχουν επίσης εκφράσει τους φόβους τους για τις διαγραφόμενες επιπτώσεις της τεχνητής νοημοσύνης και της αυξανόμενης δύναμης των ρομπότ
Ο πρώτος έχει πει ότι οι μηχανές με τεχνητή νοημοσύνη μπορεί «να φέρουν το τέλος της ανθρωπότητας», ενώ ο δεύτερος ότι η τεχνητή νοημοσύνη «κάνει επίκληση στους δαίμονες» και ότι «συνιστά την μεγαλύτερη υπαρξιακή απειλή που υπάρχει».
Από την άλλη, ο Έρικ Χόρβιτς εμφανίζεται πιο αισιόδοξος. «Υπάρχουν ανησυχίες ότι σε βάθος χρόνου θα χάσουμε τον έλεγχο ορισμένων μορφών νοημοσύνης. Κατά βάση, δεν νομίζω ότι αυτό πρόκειται να συμβεί.

Θα είμαστε πολύ προβλεπτικοί για το πώς θα αξιοποιήσουμε τα συστήματα τεχνητής νοημοσύνης και, στο τέλος, θα μπορέσουμε να πάρουμε απίστευτα οφέλη από την μηχανική νοημοσύνη σε όλους τους τομείς της ζωής, στην επιστήμη, την εκπαίδευση, την οικονομία και την καθημερινή ζωή».
Ο ίδιος ο Μπιλ Γκέιτς παραδέχτηκε πάντως ότι, παρά τις επιφυλάξεις του, αν ήταν νεότερος και εργαζόταν στην Microsoft, πιθανότατα θα ήταν κι αυτός ερευνητής στο πεδίο της τεχνητής νοημοσύνης. Αλλά και τώρα, όπως είπε, συνεργάζεται με την Microsoft σε ένα σχετικό πρόγραμμα με την ονομασία "Personal Agent" (Προσωπικός Βοηθός).

 

[Γιώργος Κυριακαράκος]

Αν ενσωματώσουμε τους 3 νόμους συν τον μηδενικό του Asimov θα είμαστε μια χαρά

 

[SR-71]

Re: Απάντηση: Artificial Intelligence

...τον μηδενικό του Asimov...

Πουρκουα ? :blink:

 

[Στέλιος Π.]

"Το ρομπότ δε θα κάνει κακό στην ανθρωπότητα, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί η ανθρωπότητα"

Συνεπως οι 3 νομοι μεταλλασονται

π.χ.

Απο "Το ρομπότ δε θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο όν"

Σε "Το ρομπότ δε θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο όν, εφόσον αυτό δεν αντιτίθεται στο μηδενικό νόμο."

 

[alfie]

Πιστεύω αν προσέξουμε σαν ανθρώπινα όντα με την εξέλιξη της τεχνολογίας και που αυτό μας οδηγεί τότε θα είμαστε μια χαρά.
Το να λέμε ότι ο κόσμος θα καταστραφεί ή τα ρομπότ θα βλάψουν τους ανθρώπους στο μέλλον είναι λίγο πολύ σενάρια και μάλιστα μακρινά.

 

[SR-71]

Nαι βρε, συγνωμη ...
το ερμηνευσα "το μηδενικο του Asimov".
Ενα τελικο "ν" που παραληφθηκε απο απροσεξια, οδηγησε στην παρεξηγηση.

 

[SR-71]

Οπως γνωριζετε ολοι smash: "ολοι" :smash ο πατερας της ΤΝ ειναι ο Alan Turing.
Το 1950 συνεταξε το περιφημο τεστ Turing. Εν ολιγοις, ο εξεταζομενος συνομιλει μεσω πληκτρολογιου και οθονης
με δυο "ατομα". Το ενα ατομο ειναι ανθρωπος και το αλλο ... υπολογιστης. Αν δεν μπορεσει να διακρινει ποιος ΔΕΝ
ειναι ανθρωπος .... ο υπολογιστης εχει περασει το τεστ !!!!



Που ακριβως βρισκομαστε σ'αυτο το επιπεδο "εξαπατησης" ?
Εδω > http://news.in.gr/science-technology/article/?aid=1231325950

 

[chrisssb]

Τα ρομπότ είναι άλλο πράγμα από την τεχνητή νοημοσύνη.
Ο Hawking το περιέγραψε πολύ σωστά το πρόβλημα: η τεχνητή νοημοσύνη έχει ένα τεράστιο πλεονέκτημα σε σχέση με την βιολογική.
Δεν περιορίζεται από τους αργούς χρόνους της βιολογικής εξέλιξης. Είναι δεδομένο ότι κάποια στιγμή θα γίνει ανεξέλεγκτη.
Ότι "νόμο" ή ασφαλιστική δικλείδα και να προβλέψουμε θα είναι άκυρη.
Όσο έξυπνη και να είναι απλά θα είναι άκυρη. Όταν η διαφορά στη νοημοσύνη θα είναι (εις βάρος μας) τέτοια με αυτή που έχουμε εμείς από ένα μαλάκιο απλά ο νόμος δεν θα ισχύει.
Παράδειγμα: για την δική μας αντίληψη ο φόνος είναι κάτι το απαράδεκτο. Αυτό είναι νόμος για εμάς.
Αυτόν τον ίδιο νόμο όμως, αν τον σκεφτούμε την ώρα που κάνουν τα παιδιά τομή σε ένα βάτραχο στο μάθημα της βιολογίας, απλά θα γελάσουμε. Στα ίδια παιδιά αμέσως μετά το μάθημα της βιολογίας διδάσκουμε κιόλας ότι ο φόνος είναι απαράδεκτος.
Αυτό συμβαίνει ότι η διαφορά μεταξύ ειδών δεν είναι απλά μεγάλη αλλά άλλης τάξης.

 

[Cicadelic Ranger]

Το όλ πρόβλημα (αν προβλημα προκήψει, η εννοηθεί σαν πρόβλημα) δεν ειναι η "διανόηση" η η γνώση (αποθηκευομενη, ανακαλούμενη, εφαρμοζόμενη) αλλα η συνείδηση και κυρίως μιια νέα εννοια, το γραφω στα Γαλλικα και στα αγγλικά γιατι δεν ξέρω αν εχει αποτυπωθει σαν προβληματισμός και εννοια στα Ελληνικά : Τhe emerge , L'emergence.

 

[chrisssb]

η ανάδυση. Δεν υπάρχει όρος στα γαλλικά ή τα αγγλικά που να μην υπάρχει στα Ελληνικά.
Το αντίθετο ναι.

 

[Cicadelic Ranger]

Ανάδυση, ναι ταιριάζει, ευχαριστώ. Αυτο που σε κάποια στιγμή σηκώνεται και εμφανίζεται, ενω δεν ηταν αναμενόμενο.
Ειναι κυρίως αυτη η έννοια που απασχολει τους ειδικούς στην τεχνική νοημοσύνη.
Οχι αυτο που έχει προγραμματιστει και ελεγθει εκ των προτέρων αλλα αυτο που θα αναδυθεί σαν ενα είδος συνείδησης και θα πιθανώς θα ζητήσει τα ρέστα.

 

[SR-71]

Μηπως η Αναδυση που περιγραφει ο Cica εχει καμια σχεση με self awareness ?

Γιατι ακομα και σημερα, οι επιστημονες δεν μπορουν να συμφωνησουν αν ενα μικροβιο εχει Αυτεπιγνωση
της μοναδικοτητας του. Η μονη επιγνωση που εχει ειναι της υπαρξης του και οχι της μοναδικοτητας του.

Πρεπει να ξεκαθαρισουμε σε ΜΑΣ, τι ειναι Μοναδικοτητα, Συνειδηση, Αυτεπιγνωση
και μετα να παμε να την ψαξουμε αλλου (και ακομα δυσκολοτερα να την πυροδοτησουμε).

 

[Cicadelic Ranger]

Μηπως η Αναδυση που περιγραφει ο Cica εχει καμια σχεση με self awareness ?

Γιατι ακομα και σημερα, οι επιστημονες δεν μπορουν να συμφωνησουν αν ενα μικροβιο εχει Αυτεπιγνωση
της μοναδικοτητας του. Η μονη επιγνωση που εχει ειναι της υπαρξης του και οχι της μοναδικοτητας του.

Πρεπει να ξεκαθαρισουμε σε ΜΑΣ, τι ειναι Μοναδικοτητα, Συνειδηση, Αυτεπιγνωση
και μετα να παμε να την ψαξουμε αλλου (και ακομα δυσκολοτερα να την πυροδοτησουμε).

Η Αυτεπιγνωση της μοναδικότητας ("singularity") έρχεται μετά την "ανάδυση".
Μετά μέσω της singularity τίθεται το ερώτημα της αθανασίας δηλαδή το δόλωμα, για το οποιο μιλάγαμε στο άλλο νήμα, αυξηση της νοημοσύνης, τεχνικότητα της νοημοσύνηε και του σώματος, τρανσηουμανισμ, αθανασία...αυτο που ονομάζω το πλανητικό δόλωμα (το κοινό δόλωμα ειναι η αναπαραγωγή). Πλανητικό βλέπε πλάνη.

 

[chrisssb]

Μηπως η Αναδυση που περιγραφει ο Cica εχει καμια σχεση με self awareness ?

Γιατι ακομα και σημερα, οι επιστημονες δεν μπορουν να συμφωνησουν αν ενα μικροβιο εχει Αυτεπιγνωση
της μοναδικοτητας του. Η μονη επιγνωση που εχει ειναι της υπαρξης του και οχι της μοναδικοτητας του.

Πρεπει να ξεκαθαρισουμε σε ΜΑΣ, τι ειναι Μοναδικοτητα, Συνειδηση, Αυτεπιγνωση
και μετα να παμε να την ψαξουμε αλλου (και ακομα δυσκολοτερα να την πυροδοτησουμε).

Όχι!
Είναι ακριβώς αυτό που είπε με άλλα λόγια και ο Hawking.

Δεν μπορείς, είναι αδύνατο να προβλέψεις τι θα αναδυθεί μέσα από μια πρωτόγνωρη κατάσταση.
Θα αναδυθεί κάτι που δεν γίνεται να το συλλάβεις εκ των προτέρων.
Όπως για παράδειγμα ένας χιμπατζής πριν 50.000 χρόνια δεν μπορούσε να διανοηθεί ότι ο διπλανός πίθηκος (εμείς) θα εξετάζει αύριο αν οι υπερχορδές περιγράφουν με καλύτερο τρόπο το σύμπαν.
Και με την περίπτωση του χιμπατζή - ανθρώπου τα πράγματα ήταν και πιο προβλέψιμα αφού μοιραζόμαστε κατά το 98% το ίδιο DNA.
Τι μπορεί να αναδυθεί/προκύψει από μια -ανεξέλεγκτη από μας- διαδικασία για την οποία τα 50.000 χρόνια που εμείς χρειαστήκαμε θα χρειάζεται εκατομμυριοστά του δευτερολέπτου και με το οποίο δεν θα έχουμε κανένα κοινό σημείο αναφορά;?

 

[Cicadelic Ranger]

Όχι!
Είναι ακριβώς αυτό που είπε με άλλα λόγια και ο Hawking.

Δεν μπορείς, είναι αδύνατο να προβλέψεις τι θα αναδυθεί μέσα από μια πρωτόγνωρη κατάσταση.
Θα αναδυθεί κάτι που δεν γίνεται να το συλλάβεις εκ των προτέρων.
Όπως για παράδειγμα ένας χιμπατζής πριν 50.000 χρόνια δεν μπορούσε να διανοηθεί ότι ο διπλανός πίθηκος (εμείς) θα εξετάζει αύριο αν οι υπερχορδές περιγράφουν με καλύτερο τρόπο το σύμπαν.
Και με την περίπτωση του χιμπατζή - ανθρώπου τα πράγματα ήταν και πιο προβλέψιμα αφού μοιραζόμαστε κατά το 98% το ίδιο DNA.
Τι μπορεί να αναδυθεί/προκύψει από μια -ανεξέλεγκτη από μας- διαδικασία για την οποία τα 50.000 χρόνια που εμείς χρειαστήκαμε θα χρειάζεται εκατομμυριοστά του δευτερολέπτου και με το οποίο δεν θα έχουμε κανένα κοινό σημείο αναφορά;?

Ακριβώς
Δεν ξέρεις τι θα προκύψει οταν τα data βρισκονται σε μια αυτόνομη ανεξέλεγκτη αυτουσια κατάσταση εξ αυτων και περι αυτών. Τότε επειδη εισαι εξω απο την διαδικασία δεν ξέρεις τι θα αναδυθει. Και όταν αναδυθει δεν ξέρεις ενα παρει self awareness η αποκτήσει singularity. Και μια φορά που το έκανε αυτό...σημαίνει ποια η "θεση της σχετικά με τον περίγυρο και τις άλλες sigularities τον άνθρωπο συμπεριλαμβανομένομένου.
Το αλλο εθολογικο ηθικο ερώτημα είναι εμεις μέσω της δυνατότητας της τεχνοποίησης της ανθρώπινης φύσης μήπως δεν μπορεί να κάνουμε το "σκούντημα> την μετάβαση σε μία άλλη τεχνική singulαrity δηλαδη μία άλλη συνείδηση που δεν είναι η δική μας και ίσως ούτε καν ανθρώπινη.
Οποτε σ'αυτο το σημείο οι δύο τάσεις συγκλείνουν και είναι δείγμα του πολιτισμου και των καιρών μας.

Οπως έγραφε και ο απόστολος στο Ευαγγέλιο "Όποιος δεν είναι εγγεγραμένος στο βιβλίο της Ζωής..."
Και ερχόμαστε στο κυριο και αιωνιο ερώτημα...τι είναι ζωή μαι τι μη ζωή.
Πολλες ενδείξεις και προτάσεις αλλα κανένα αξίωμα, εχω συζητησει με βιολογους, όλα είναι αναφορικά η επεξεγηματικά.

 

[SR-71]

Mαλιστα,
ξεκαθαριστηκε, λοιπον !
Δεν μιλαμε για Αυτεπιγνωση Συνειδησης.
Μιλαμε απλα για Νοημοσυνη που μπορει να συλλαβει την Διαφορετικοτητα της (οταν γινει αυτο)
απο το υπολοιπο περιβαλλον γυρω της. Αυτο θα συμβει πολυ συντομα (ισως στον παροντα αιωνα).
Αλλα απο μονο του (ως γεγονος) δεν ειναι ιδιαιτερα ανυσηχητικο. Η Αυτεπιγνωση (αν ερθει) ΕΙΝΑΙ.
Ομως, δεν κινδυνευει η δικη μας γενια. Αυτο ειναι σιγουρο

 

[Cicadelic Ranger]

Mαλιστα,
ξεκαθαριστηκε, λοιπον !
Δεν μιλαμε για Αυτεπιγνωση Συνειδησης.
Μιλαμε απλα για Νοημοσυνη που μπορει να συλλαβει την Διαφορετικοτητα της (οταν γινει αυτο)
απο το υπολοιπο περιβαλλον γυρω της. Αυτο θα συμβει πολυ συντομα (ισως στον παροντα αιωνα).
Αλλα απο μονο του (ως γεγονος) δεν ειναι ιδιαιτερα ανυσηχητικο. Η Αυτεπιγνωση (αν ερθει) ΕΙΝΑΙ.
Ομως, δεν κινδυνευει η δικη μας γενια. Αυτο ειναι σιγουρο

Οχι δεν είναι καθόλου σίγουρο...η δική μας γεννιά (είμαστε της ίδιας ηλικίας νομίζω) κινδυνευει αλλα δεν γ#%^^ται.
Τρέχουν με μεγάλη ταχύτητα τα γεγονότα. Αμα έχω χρόνο θα σας πω κάποια νέα.

ΥΓ Βλεπε Χολυγουντ, λένε πολλα με σαμπλιμιναλ μυνηματα μέσα...φιλμ ολόκληρα Her, Transcendence, Lucy kαι αλλα. Μας δίνουν μία γευση αλλα αι οι ανακοινώσεις εργαστηρίων είναι πολυ ενδιαφέρουσες και συναπτώμενες.

 

[chrisssb]

Mαλιστα,
ξεκαθαριστηκε, λοιπον !
Δεν μιλαμε για Αυτεπιγνωση Συνειδησης.
Μιλαμε απλα για Νοημοσυνη που μπορει να συλλαβει την Διαφορετικοτητα της (οταν γινει αυτο)
απο το υπολοιπο περιβαλλον γυρω της. Αυτο θα συμβει πολυ συντομα (ισως στον παροντα αιωνα).
Αλλα απο μονο του (ως γεγονος) δεν ειναι ιδιαιτερα ανυσηχητικο. Η Αυτεπιγνωση (αν ερθει) ΕΙΝΑΙ.
Ομως, δεν κινδυνευει η δικη μας γενια. Αυτο ειναι σιγουρο

Δεν νομίζω ότι το κατάλαβες!
Αυτό που θα προκύψει μπορεί να είναι κάτι τόσο διαφορετικό που η έννοια της νοημοσύνης να μην μπορεί καν να περιγράψει.
Αυτά για τα οποία μιλάς -αυτεπίγνωση κ.λπ.- είναι πολύ πρωτόγονα για αυτό που θα προκύψει.
Απλά δεν υπάρχουν λέξεις ή έννοιες να το συλλάβουμε. Όπως ένα μαλάκιο όσο και να σκεφτεί δεν μπορεί να καταλάβει κβαντική θεωρία πόσο δε να την περιγράψει.

 

[SR-71]

Καταρχην, δεν εχω συνδεσει την νοημοσυνη με κβαντικες θεωριες και θεωριες χορδων.
Οτι και να προκυψει αν δεν εχει καποιου ειδους αναλυτικη σκεψη και συσχετιστικη ικανοτητα
δεν βλεπω με ποιον τροπο μπορει να μας βλαψει. Μπορει να μην ειναι νοημοσυνη με τα
ανθρωπινα μετρα και σταθμα αλλα εκ του αποτελεσματος κρινονται τα παντα σ'αυτο το συμπαν.
Οποτε, καποιου ειδους συγκριση θα υφισταται με τους sapiens, γιατι αλλιως δεν βλεπω λογο
ουτε να μας απειλησει αλλα ουτε και να την απειλησουμε. Πρεπει να γνωριζεις τον αλλον και
για να τον εντοπισεις πρεπει να μπορεις να τον συσχετισεις με κατι. Κατι "κοινο".
Αλλιως δεν υφισταται στον "κοσμο" σου.

Αυτο το "κοινο", ειναι παντα ενα υποσυνολο που περιεχει μερος του δικου σου κοσμου
αλλα και μερος του κοσμου της αλλης "υπαρξης". Πιθανολογω οτι αυτο το υποσυνολο
εχει παντα να κανει με Ενεργεια, στην εξαιρετικα ευρεια θεωρηση της.

 

[chrisssb]

... μα τι λες?