Τεχνητή Νοημοσύνη (AI). Τι είναι, τι ξέρουμε, τι αλλάζει στη ζωή και στον πολιτισμό;

Το βασικό πρόβλημα της "Τεχνητής νοημοσύνης" είναι ότι οι χρήστες δεν ξέρουν να τη χρησιμοποιήσουν.
Εννοείται ότι έχει κανόνες και όχι ηθικούς φραγμούς και ΕΝΝΟΕΙΤΑΙ ότι θα γίνει αυτό που λέγαμε πάντα για τους υπολογιστές εμείς που δουλεύουμε στον τομέα του ΙΤ.

Ο υπολογιστής θα κάνει αυτό που του λες, όχι αυτό που θέλεις.

Τόσο απλό.
Όσο υπάρχουν best practices για να γράψεις τον πιο απλό κώδικα, τόσο υπάρχουν best practices για να εξηγήσεις στο κάθε llm τι χρειάζεσαι.
 
Tzimisce said:
Το βασικό πρόβλημα της "Τεχνητής νοημοσύνης" είναι ότι οι χρήστες δεν ξέρουν να τη χρησιμοποιήσουν.
Εννοείται ότι έχει κανόνες και όχι ηθικούς φραγμούς και ΕΝΝΟΕΙΤΑΙ ότι θα γίνει αυτό που λέγαμε πάντα για τους υπολογιστές εμείς που δουλεύουμε στον τομέα του ΙΤ.

Ο υπολογιστής θα κάνει αυτό που του λες, όχι αυτό που θέλεις.

Τόσο απλό.
Όσο υπάρχουν best practices για να γράψεις τον πιο απλό κώδικα, τόσο υπάρχουν best practices για να εξηγήσεις στο κάθε llm τι χρειάζεσαι.
Click to expand...
εαν ομως , ξερεις να του πεις, αυτο που θελεις, εν τελει θα κανει αυτο που θελεις
 
Kosh said:
To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.



:oops: :oops: :oops:
Click to expand...
Όσο και αν κάποια πράγματα φαίνονται απλά ή όσο και αν φαίνονται περίπλοκα η πραγματικότητα πάντα θα μας εκπλήσει.
Έδωσαν στο ChatGPT 6 (σε μια έκδοση που εσωτερικά τεστάρει η OpenAI) ένα απλό task. Να λύσει το ExploitGym benchmark. Το κλείδωσαν και σε ένα πολύ ελεγχόμενο sandbox χωρίς καμία επαφή με τον εξωτερικό κόσμο. Του άφησαν μόνο ένα local repository με βιβλιοθήκες. Τι έκανε αυτό;
- Σκέφτηκε ότι θα μπορούσε να το λύσει αν είχε πρόσβαση σε σχετικό open source λογισμικό.
- Για να το κάνει αυτό θα έπρεπε να αποκτίσει πρόσβαση στο ιντερνετ.
- Βρήκε ένα zero day vulnerability και απέδρασε από το sandbox.
- Άρχισε να πηγαίνει από "υπολογιστή" σε "υπολογιστή" εντός της OpenAI ψάχνοντας κάποιον που να έχει πρόσβαση στο internet.
- Όταν το κατάφερε πήγε να βρει τις πληροφορίες που ήθελε στο hugging face.
- Για να το κάνει αυτό χάκαρε μερικούς λογαριασμούς και βρήκε μερικά zero-day και εδώ.
- Απέκτησε πρόσβαση σε δοκιμαστικές λύσεις του ExploitGym που θα του επέτρεπαν να κάνει αυτό που του ζήτησαν.
Κάπου εδώ το κατάλαβε και η ομάδα κυβερνοασφάλειας τόσο του hugging face όσο και της OpenAI.

Σε όλο το παραπάνω δεν υπήρχε κανένα θέμα alignment. Έκανε αυτό ακριβώς που του ζητήσαμε, απλώς δεν είμασταν αρκετά αναλυτικοί για το πως θα το πετύχαινε αυτό. Α, και επίσης νομίζαμε ότι θα το είχαμε κλειδωμένο. Αλλά απλά δραπέτευσε...

 
  • Like
Reactions: Kosh
Μικρο βιντεο (γιατι ο τυπος κανει podcasts και 4 ωρες μερικες φορες)
Για μενα συμπερικλειει ολο τον συλογισμο για την Τεχνικη νοημοσυνη και την χρηση της στην ( την δυναμενη η την επιθεμιτη )
Με ενα πολυ ευλογο παραδειγμα περι αποδοχης νεων τεχνικων και τεχνολογιων. Με μια εξαιρετικη αναφορα στον Μπωντλαιρ, που ναι μεν απεχθανοταν την φωτογραφια για να μην "σκοτωσει" την τεχνικη της τεχνης (βλεπε ζωγραφικη...) αλλα σε καποια φαση της ζωης του ζητησε σαν ευχη... και τα υπολοιπα στην οθονη σας.
Με την ιστορια του μπαρμπα Λελευ. Για τον οποιο δεν ειχε μεινει τιποτα παρα μονο καποια καρτ ποσταλ.

Για μενα συνοψιζει ολη την φιλοσοφια περι ΙΑ και την χρηση της. Το ωραιο και το χυδαιο, το νοητο και το αψυχο, το βαθος της ανθρωπινης ψυχης και τ επιφανιακο.
Το σημερινο πεδιο μαχης ειναι εδω, στον τομεα της τεχνης, και απο αυτο θα βγει ενας νικητης η ενας χαμενος... ο ανθρωπος.

Ο τελευταιος φυλακας των οχεων. Ποιος φονευσε τον μπαρμπα Λευλευ ;
To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.

Για οσους δεν γνωριζουν Γαλλικα το επαναλαμβανω υπαρχει επιλογη μεταφρασης υποτιτλων, και το τσεκαρα και στα Ελληνικα. Απο ΙΑ, εδω ειμαστε παλι.
 
Deneb said:
εαν ομως , ξερεις να του πεις, αυτο που θελεις, εν τελει θα κανει αυτο που θελεις
Click to expand...

Ε... όχι απαραίτητα.
Ίσως μόνο αν το κλειδώσεις τόσο πολύ με το prompt σου να κάνει αυτό που τελικά θέλεις.
Φτάνει να μην έχει κανένα τεράστιο ιστορικό από πίσω και έχει ξεχάσει τι έκανε εχθές, το έχεις βάλει να κρατάει σημειώσεις για τα πάντα, κλπ κλπ.
 
  • Like
Reactions: Deneb
anderm said:
Και η Alibaba με τα ανοιχτά μοντέλα της, QWEN, στον χορό των ανοιχτών μοντέλων τρισεκατομμυρίων παραμέτρων.

View attachment 274718
Click to expand...
Αυτή είναι η μία όψη...μεγάλα μοντέλα που να πλησιάζουν ή και να ξεπερνούν τα κλειστά frontier.

Όμως, περιμένω ένα καινούργιο μοντέλο που να μπορεί να τρέξει με 140 -150 GB μνήμη τοπικά. Σίγουρα θα είναι 120 B παραμέτρων ή και μεγαλύτερο μιας και έχουν αρχίσει να χρησιμοποιούν κολπάκια με Active parameters κλπ. μιας και πια με ~5000 ευρώ μπορείς να αγοράσεις hardware για τέτοια μοντέλα που να μπορείς να τα τρέξεις τοπικά.
Περιμένω αναβαθμισμένη έκδοση του Qwen3.5-122B-A10B που ήδη κάνει πάρα πολλά πράγματα...

To "παλιό" Qwen3 4B Instruct 2507 είναι το μοντέλο που τρέχω τώρα τοπικά για διάφορα μικρά τασκ (έχω μόνο 6 GB Vram) και έχω δει ότι για τις δικές μου ανάγκες αποδίδει καλύτερα από αρκετά άλλα νεώτερα με το ίδιο περίπου footprint...
 
140-150GB μνήμης τοπικά, σημαίνει μια H200.

Με αυτά, τρέχεις μοντέλα (4-bit quantized) μέχρι ~150B παραμέτρους. Ανεξαρτήτως των ενεργών παραμέτρων, όλα τα model weights συν το context, χρειάζεται να χωρέσουν στην VRAM.
Δεν θα γίνουν θαύματα, εφόσον η ψαλίδα με τα frontier θα ανοίγει συνεχώς, όσο efficient και να γίνουν, εφόσον η νεότερη υποδομή επιτρέπει εκπαίδευση και inference μεγαλύτερων μοντέλων, όπως τα Mythos και Sol.

Θα μου πείς, χρειάζεσαι το Mythos για να κάνεις review ένα έγγραφο; Όχι.
 
Top Bottom