Τεχνητή Νοημοσύνη (AI). Τι είναι, τι ξέρουμε, τι αλλάζει στη ζωή και στον πολιτισμό;

Το βασικό πρόβλημα της "Τεχνητής νοημοσύνης" είναι ότι οι χρήστες δεν ξέρουν να τη χρησιμοποιήσουν.
Εννοείται ότι έχει κανόνες και όχι ηθικούς φραγμούς και ΕΝΝΟΕΙΤΑΙ ότι θα γίνει αυτό που λέγαμε πάντα για τους υπολογιστές εμείς που δουλεύουμε στον τομέα του ΙΤ.

Ο υπολογιστής θα κάνει αυτό που του λες, όχι αυτό που θέλεις.

Τόσο απλό.
Όσο υπάρχουν best practices για να γράψεις τον πιο απλό κώδικα, τόσο υπάρχουν best practices για να εξηγήσεις στο κάθε llm τι χρειάζεσαι.
 
Tzimisce said:
Το βασικό πρόβλημα της "Τεχνητής νοημοσύνης" είναι ότι οι χρήστες δεν ξέρουν να τη χρησιμοποιήσουν.
Εννοείται ότι έχει κανόνες και όχι ηθικούς φραγμούς και ΕΝΝΟΕΙΤΑΙ ότι θα γίνει αυτό που λέγαμε πάντα για τους υπολογιστές εμείς που δουλεύουμε στον τομέα του ΙΤ.

Ο υπολογιστής θα κάνει αυτό που του λες, όχι αυτό που θέλεις.

Τόσο απλό.
Όσο υπάρχουν best practices για να γράψεις τον πιο απλό κώδικα, τόσο υπάρχουν best practices για να εξηγήσεις στο κάθε llm τι χρειάζεσαι.
Click to expand...
εαν ομως , ξερεις να του πεις, αυτο που θελεις, εν τελει θα κανει αυτο που θελεις
 
Kosh said:
To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.



:oops: :oops: :oops:
Click to expand...
Όσο και αν κάποια πράγματα φαίνονται απλά ή όσο και αν φαίνονται περίπλοκα η πραγματικότητα πάντα θα μας εκπλήσει.
Έδωσαν στο ChatGPT 6 (σε μια έκδοση που εσωτερικά τεστάρει η OpenAI) ένα απλό task. Να λύσει το ExploitGym benchmark. Το κλείδωσαν και σε ένα πολύ ελεγχόμενο sandbox χωρίς καμία επαφή με τον εξωτερικό κόσμο. Του άφησαν μόνο ένα local repository με βιβλιοθήκες. Τι έκανε αυτό;
- Σκέφτηκε ότι θα μπορούσε να το λύσει αν είχε πρόσβαση σε σχετικό open source λογισμικό.
- Για να το κάνει αυτό θα έπρεπε να αποκτίσει πρόσβαση στο ιντερνετ.
- Βρήκε ένα zero day vulnerability και απέδρασε από το sandbox.
- Άρχισε να πηγαίνει από "υπολογιστή" σε "υπολογιστή" εντός της OpenAI ψάχνοντας κάποιον που να έχει πρόσβαση στο internet.
- Όταν το κατάφερε πήγε να βρει τις πληροφορίες που ήθελε στο hugging face.
- Για να το κάνει αυτό χάκαρε μερικούς λογαριασμούς και βρήκε μερικά zero-day και εδώ.
- Απέκτησε πρόσβαση σε δοκιμαστικές λύσεις του ExploitGym που θα του επέτρεπαν να κάνει αυτό που του ζήτησαν.
Κάπου εδώ το κατάλαβε και η ομάδα κυβερνοασφάλειας τόσο του hugging face όσο και της OpenAI.

Σε όλο το παραπάνω δεν υπήρχε κανένα θέμα alignment. Έκανε αυτό ακριβώς που του ζητήσαμε, απλώς δεν είμασταν αρκετά αναλυτικοί για το πως θα το πετύχαινε αυτό. Α, και επίσης νομίζαμε ότι θα το είχαμε κλειδωμένο. Αλλά απλά δραπέτευσε...

 
  • Like
Reactions: Kosh
Μικρο βιντεο (γιατι ο τυπος κανει podcasts και 4 ωρες μερικες φορες)
Για μενα συμπερικλειει ολο τον συλογισμο για την Τεχνικη νοημοσυνη και την χρηση της στην ( την δυναμενη η την επιθεμιτη )
Με ενα πολυ ευλογο παραδειγμα περι αποδοχης νεων τεχνικων και τεχνολογιων. Με μια εξαιρετικη αναφορα στον Μπωντλαιρ, που ναι μεν απεχθανοταν την φωτογραφια για να μην "σκοτωσει" την τεχνικη της τεχνης (βλεπε ζωγραφικη...) αλλα σε καποια φαση της ζωης του ζητησε σαν ευχη... και τα υπολοιπα στην οθονη σας.
Με την ιστορια του μπαρμπα Λελευ. Για τον οποιο δεν ειχε μεινει τιποτα παρα μονο καποια καρτ ποσταλ.

Για μενα συνοψιζει ολη την φιλοσοφια περι ΙΑ και την χρηση της. Το ωραιο και το χυδαιο, το νοητο και το αψυχο, το βαθος της ανθρωπινης ψυχης και τ επιφανιακο.
Το σημερινο πεδιο μαχης ειναι εδω, στον τομεα της τεχνης, και απο αυτο θα βγει ενας νικητης η ενας χαμενος... ο ανθρωπος.

Ο τελευταιος φυλακας των οχεων. Ποιος φονευσε τον μπαρμπα Λευλευ ;
To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.

Για οσους δεν γνωριζουν Γαλλικα το επαναλαμβανω υπαρχει επιλογη μεταφρασης υποτιτλων, και το τσεκαρα και στα Ελληνικα. Απο ΙΑ, εδω ειμαστε παλι.
 
Deneb said:
εαν ομως , ξερεις να του πεις, αυτο που θελεις, εν τελει θα κανει αυτο που θελεις
Click to expand...

Ε... όχι απαραίτητα.
Ίσως μόνο αν το κλειδώσεις τόσο πολύ με το prompt σου να κάνει αυτό που τελικά θέλεις.
Φτάνει να μην έχει κανένα τεράστιο ιστορικό από πίσω και έχει ξεχάσει τι έκανε εχθές, το έχεις βάλει να κρατάει σημειώσεις για τα πάντα, κλπ κλπ.
 
  • Like
Reactions: Deneb
anderm said:
Και η Alibaba με τα ανοιχτά μοντέλα της, QWEN, στον χορό των ανοιχτών μοντέλων τρισεκατομμυρίων παραμέτρων.

View attachment 274718
Click to expand...
Αυτή είναι η μία όψη...μεγάλα μοντέλα που να πλησιάζουν ή και να ξεπερνούν τα κλειστά frontier.

Όμως, περιμένω ένα καινούργιο μοντέλο που να μπορεί να τρέξει με 140 -150 GB μνήμη τοπικά. Σίγουρα θα είναι 120 B παραμέτρων ή και μεγαλύτερο μιας και έχουν αρχίσει να χρησιμοποιούν κολπάκια με Active parameters κλπ. μιας και πια με ~5000 ευρώ μπορείς να αγοράσεις hardware για τέτοια μοντέλα που να μπορείς να τα τρέξεις τοπικά.
Περιμένω αναβαθμισμένη έκδοση του Qwen3.5-122B-A10B που ήδη κάνει πάρα πολλά πράγματα...

To "παλιό" Qwen3 4B Instruct 2507 είναι το μοντέλο που τρέχω τώρα τοπικά για διάφορα μικρά τασκ (έχω μόνο 6 GB Vram) και έχω δει ότι για τις δικές μου ανάγκες αποδίδει καλύτερα από αρκετά άλλα νεώτερα με το ίδιο περίπου footprint...
 
140-150GB μνήμης τοπικά, σημαίνει μια H200.

Με αυτά, τρέχεις μοντέλα (4-bit quantized) μέχρι ~150B παραμέτρους. Ανεξαρτήτως των ενεργών παραμέτρων, όλα τα model weights συν το context, χρειάζεται να χωρέσουν στην VRAM.
Δεν θα γίνουν θαύματα, εφόσον η ψαλίδα με τα frontier θα ανοίγει συνεχώς, όσο efficient και να γίνουν, λόγω του ότι η νεότερη υποδομή επιτρέπει εκπαίδευση και inference μεγαλύτερων μοντέλων, όπως τα Mythos και Sol.

Θα μου πείς, χρειάζεσαι το Mythos για να κάνεις review ένα έγγραφο; Όχι.
 
Με τα 5,000€ του DGX, παίρνεις για ~4 χρόνια τη συνδρομή των 100€ σε OpenAI ή Anthropic και μπορείς να τρέχεις έναν agent με το μεσαίο τους μοντέλο για ~10 ώρες την ημέρα συνεχόμενα. Το οποιοδήποτε μεσαίο μοντέλο χωρίς μεγάλο thinking budget, θα είναι απείρως πιο ευφυές από ένα ανοιχτό των 100-150B παραμέτρων.

Οι δύο μοναδικές περιπτώσεις που στο μυαλό μου βγάζουν νόημα για on-premises υλοποίηση είναι η αδήριτη ανάγκη να κάνεις επεξεργασία δεδομένων σε κενό αέρος με τον υπόλοιπο κόσμο ή το να θέλεις να κάνεις fine-tune ένα μικρό μοντέλο για μια συγκεκριμένη διεργασία, χωρίς να πληρώσεις ποσά που δημιουργούν ίλιγγο σε κάποιον hypervisor.


Αυτή την εβδομάδα ασχολήθηκα λίγο περισσότερο με τα κόστη.
Το 2008 -με τις τότε τιμές ΗΠΑ, που δεν έχουν σχέση με τις σημερινές, το ίδρυμα Linux είχε κάνει μια έρευνα με το συνολικό εκτιμώμενο κόστος ανά γραμμή κώδικα του kernel, από τη σύλληψη, αρχιτεκτονική, γράψιμο, review, όλο το chain. Κατέληξαν στο ότι κόστιζε 103$ (160$ σημερινά) ανά γραμμή κώδικα.
Και πάμε στο σήμερα. Έστω πως έχεις έναν άνθρωπο που ξέρει τι του γίνεται και του δίνεις το Fable 5/Mythos, ότι ακριβότερο και μεγαλύτερο υπάρχει σήμερα. Στο δραματικό σενάριο του να του βάλεις κάτι εξαιρετικά δύσκολο και να θέλει 10 thinking tokens για 1 output, θα κοστίζει 5.5$ ανά 1000 γραμμές κώδικα.

Δείτε ένα πραγματικό παράδειγμα υλοποίησης μεγάλης νέας λειτουργικότητας που έκανα εγώ και πέραν από τον κώδικα, παρήγαγε συνοδά έγγραφα κλπ. 4 ώρες συνεχόμενα λειτουργούσαν οι agents, 11 ώρες το όλο session εφόσον έτρεχε μετά από κάθε task και όλα τα integration tests. Βλέπετε 4 μοντέλα, εφόσον το βασικό (Fable 5) χρησιμοποιούσε διαφορετικό μοντέλο για κάθε sub-agent ανάλογα με το τι έκανε.

1784841340596.png
 
Top Bottom