Τεχνητή Νοημοσύνη (AI). Τι είναι, τι ξέρουμε, τι αλλάζει στη ζωή και στον πολιτισμό;

Τελικά όπως έλεγε και ο αείμνηστος Χάρυ Κλυν "άμα είσαι ματσωμένος θα κάνεις ότι γουστάρεις να 'ουμ". Και μια ερώτηση προς τον Γ. Κυριακαράκο. Η Anthropic πότε ιδρύθηκε και σε τι διαφοροποιείται το δικό της ΑΙ model σε σχέση με τα υπόλοιπα της αγοράς.
 
Δεν εχω ασχοληθεί (για διάφορους λόγους) καθόλου (μα καθόλου) με το θέμα AI.

Αλλά αυτό ακριβώς που γράφεις είναι ο ''φόβος'' μου.

Το ότι δλδ ο κόσμος δεν θα μάθει (ή θα ξεχάσει) να σκέφτεται (με τις πολλές ερμηνείες του όρου - πχ κριτική σκέψη).

Κατανοητό βέβαια ότι η περίπτωση που περιγράφεις δεν εντάσσεται στα παραπάνω καθώς είναι μάλλον η καλύτερη περίπτωση χρήσης του AI, να μπορείς δλδ να χρησιμοποιήσεις ένα εργαλείο, το οποίο δεν γνωρίζεις, για να κάνεις τη δουλειά σου.

Από την άλλη πάλι αν η ''δουλειά'' είναι να γράψεις ένα email το οποίο απαιτεί εμπεριέχει κριτική σκέψη (ακόμη και κάτι απλούστατο όπως πχ η σύγκριση 2 προιόντων), πηγαίνουμε στην παραπάνω (προβληματική κατ' εμέ) περίπτωση.....
Όλα είναι στο χέρι μας πάντως. Τι θα στοχεύσουμε, πως, τι θα μάθουμε πραγματικά και τι θα ξεχάσουμε.
Θα δώσω συγκεκριμένο επαγγελματικό παράδειγμα.
Όταν πρέπει να κάνω μια προμελέτη ας πούμε για ένα εργοστασιακό συγκρότημα παραγωγής ανανεώσιμης μεθανόλης τι θα κάνω με απλά βήματα:
  1. Θα σπάσω το σύστημα σε υποσυστήματα.
  2. Θα πάω στην πλατφόρμα που χρησιμοποιώ τα τελευταία 25 χρόνια το TRNSYS.
  3. Θα δω τι έχω έτοιμο και τι όχι και θα φτιάξω τα input files
  4. Θα κάτσω να γράψω κώδικα (σε fortran γιατί αυτή ξέρω καλύτερα) για ότι δεν έχω ήδη.
  5. Θα ψάξω για τιμές τόσο για τεχνικά χαρακτηριστικά όσο και για κόστος
  6. Θα στήσω τη συνάρτηση κόστους για τη βελτιστοποίηση
  7. Θα ορίσω τα όρια της πολυπαραγοντικής βελτιστοποίησης που συνήθως κάνω με particle swarm optimization
  8. Θα τρέξω την πρώτη βελτιστοποίηση, θα δω, θα κρίνω και θα αλλάξω τα όρια του ερευνητικού χώρου και θα ξανατρέξω.
  9. Θα έχω το τελικό αποτέλεσμα.
Λοιπόν τι έχω ήδη αλλάξει. Πρώτα από όλα το βήμα 4...περιγράφω τι θέλω, το φτιάχνει, το τεστάρει και μετά απλά διαβάζω τον κώδικα και τελειώνω στο 1/5 με 1/10 του χρόνου αυτό το βαρετό σημείο που στο κάτω κάτω θα μπορούσα αν δούλευα σε μεγάλη εταιρία να το είχα δώσει σε συνεργάτη.
Μετά το βήμα 5 που είναι εκτενής ανασκόπιση στη βιβλιογραφία. Βέβαια αυτό γίνεται αφού μιλήσω με γνωστούς που μπορεί να έχουν ότι χρειάζομαι και απλά να μου το δώσουν. Ποτέ όμως δεν βρίσκω με αυτό τον τρόπο τα πάντα. Αυτό είναι ουσιαστικά deep research για το AI.
Στο 7 θα ζητήσω τη γνώμη του ΑΙ και θα μου πει αν θα άλλαζε κάτι στα αρχικά μου όρια. Έχω ένα δεύτερο expert opinion σε κάθε περίπτωση. Το ίδιο συμβαίνει στο 8 επίσης.

Θεωρείς ότι έχω χάσει κάτι ή ότι το να γράφω κώδικα ήταν τόσο σημαντικό;

Βέβαια το επόμενο βήμα που ήδη το διερευνώ είναι να στήσω MCP server και να αυτοματοποιήσω τα περισσότερα βήματα. Βέβαια το πρόβλημα θα το ορίσω εγώ και θα βάλω πύλες που θα ελέγχω την πρόοδο. Μόνος μου μπορώ να γράψω έναν MCP server...ίσως με 5 χρόνια δουλειάς. Το Codex όμως θα μου το γράψει σε 1-2 εβδομάδες με αραιά μηνύματα μέσα στην ημέρα. Και ας πούμε ότι τρέχει. Θα έχω κερδίσει να μπορώ να τρέχω στον ίδιο χρόνο αντίστοιχα πολλαπλά workflows. Πάλι δεν θα είμαι χαμένος.

Είναι το ίδιο με τα home projects που έχουμε συζητήσει. Έχω ως τώρα στήσει τις τελευταίες εβδομάδες:
- Γραμματέα ΑΙ με task list και notes και με πρωινά και εβδομαδιαία briefing που σύντομα θα την κάνω αυτόνομη σε ένα jetson nano orin.
- Αυτόματο συγχρονισμό Google Calendar με Outlook calendar
- Φίλτρο επεξεργασίας εισερχομένων στο ένα mail account που έχω 25 χρόνια τώρα που δέχεται ένα σκασμό mail που δεν είναι spam αλλά χάνω μέσα τους τα πολύ λίγα σημαντικά που λαμβάνω εκεί ή αφιέρωνα πολύ χρόνο να το κάνω χειροκίνητα
- Έστησα ένα plex server σε ένα Raspberry που σερβίρει την μουσική μου βιβλιοθήκη και τις φωτογραφίες από τν βασικό υπολογιστή μου
- Έφτιαξα στο ίδιο raspberry μια μικρή εφαρμογή για να ξυπνάει τον βασικό υπολογιστή μου από sleep με wake on lan παίρνοντας εντολή από το telegram
- Έστησα σε ένα άλλο raspberry ένα αυτοματοποιημένο backup σε εξωτερικό σκληρό που τυπικά το κάνω 1 φορά το μήνα αλλά στην πράξη όποτε το θυμηθώ κάθε 3-4 μήνες.

Επίσης έχω 4 ημέρες τώρα που αναπτύσω ένα custom bespoke deep research tool που βασίζεται σε μια υβριδική αρχιτεκτονική που κάνει τα περισσότερα ντετερμινιστικά, αλλά έχει και ένα LLM από πάνω για orchestration / supervision.

Αααα, έφτιαξα και ένα αυτόνομο agentic framework που τρέχει ένα workflow της δουλειάς επιτυχημένα, απλά το κόστος μέσω ΑΡΙ δεν με συμφέρει και συνεχίζω να είμαι εγώ ο orchestrator χειροκίνητα.

Ακόμη θα πάλευα με το να στήσω τον Plex server για μερικούς μήνες ακόμη στο χρόνο που ολοκλήρωσα όλα τα παραπάνω...

Άρα νομίζω αν καταλάβεις τι ελβετικός σουγιάς είναι όχι μόνο το μυαλό δουλεύει περισσότερο (σίγουρα διαφορετικά), αλλά σε αυτή τη φάση ενδυναμώνει και τις Multi-tasking δυνατότητες μιας και οι αναμονές για απαντήσεις των 10-40 λεπτών στο κάθε μήνυμα σε αναγκάζουν να τρέχεις πολλά παράλληλα.

Όμως υπάρχει σίγουρα θέμα με τη νέα γενιά που έρχεται. Και αυτά που γράφεις πιστεύω ότι έχουν πλήρη εφαρμογή στους 20αρηδες του σήμερα. Πως θα αναπτύξουμε κριτική σκέψη, πως θα την κάνουμε να αντιλαμβάνεται το φυσικό περιβάλλον σωστά; Ναι, οκ σε λίγα χρόνια από ότι φαίνεται θα έχουμε απίστευτα world models και ρομπότ, αλλά και πάλι.

Χωρίς να έχω τις απαντήσεις τα παιδιά μου (δημοτικό) τα στέλνω σε οθόνες-free σχολείο και την πληροφορική την κάνουν χωρίς τίποτα ηλεκτρονικό (βασικά μαθαίνουν αλγοριθμική λογική μέσω φυσικών προβλημάτων). Είναι το σωστό; Είναι καλύτερο από τα παιδιά φίλων που είναι με ένα tablet στο χέρι από τα 4; κανείς δεν ξέρει...
 
  • Like
Reactions: spcav
Τελικά όπως έλεγε και ο αείμνηστος Χάρυ Κλυν "άμα είσαι ματσωμένος θα κάνεις ότι γουστάρεις να 'ουμ". Και μια ερώτηση προς τον Γ. Κυριακαράκο. Η Anthropic πότε ιδρύθηκε και σε τι διαφοροποιείται το δικό της ΑΙ model σε σχέση με τα υπόλοιπα της αγοράς.
Η Anthropic ιδρύθηκε στις αρχές του 2021 και είναι κατά δήλωσή της εταιρεία έρευνας και ασφάλειας στην τεχνητή νοημοσύνη.Ο πιο γνωστός συνιδρυτής της Anthropic είναι ο Dario Amodei, ο οποίος έφυγε από την OpenAI, όπου ήταν Vice President of Research και είχε ηγηθεί της δουλειάς πάνω στα GPT-2 και GPT-3.
Η βασική διαφοροποίηση της Anthropic -στη θεωρία τουλάχιστον- είναι ότι δίνει πολύ μεγαλύτερο βάρος στην ασφάλεια, την ερμηνευσιμότητα και τον έλεγχο της συμπεριφοράς των μοντέλων της, χρησιμοποιώντας μεταξύ άλλων την προσέγγιση Constitutional AI, δηλαδή ένα σύνολο αρχών που καθοδηγεί το μοντέλο να απαντά πιο αξιόπιστα και με λιγότερο επιβλαβή τρόπο.
Αρχικά στη δεύτερη κυβέρνηση Τραμπ, η Anthropic ενίσχυσε αισθητά τη σχέση της με το αμερικανικό κράτος, αφού τον Ιούλιο του 2025 πήρε συμφωνία-πλαίσιο έως 200 εκατ. δολαρίων από το Υπουργείο Άμυνας και τον Αύγουστο του 2025 άνοιξε το Claude και στους τρεις κλάδους της ομοσπονδιακής κυβέρνησης. Όμως στα τέλη Φεβρουαρίου 2026 ο Τραμπ διέταξε τις υπηρεσίες να σταματήσουν να χρησιμοποιούν τα προϊόντα της, με εξάμηνη περίοδο απομάκρυνσης για το Πεντάγωνο και άλλους φορείς, και ακολούθησε και η διαμάχη για το Pentagon blacklisting. Έφτασε στο σημείο να την χαρακτηρίσει «radical left woke company».Η υπόθεση πάντως δεν έχει κλείσει. Η Anthropic έχει προσφύγει δικαστικά, ένας ομοσπονδιακός δικαστής είχε μπλοκάρει μία από τις κυβερνητικές ενέργειες στα τέλη Μαρτίου 2026 και όλα τρέχουν ακόμη.

Άρα σε τι διαφοροποιείται; Για τον απλό χρήστη στα εργαλεία που προσφέρει πέρα από τα μοντέλα Sonnet και Opus όπως το Claude Code και το Claude Co-work που θεωρούνται ο πιο εύκολος τρόπος για κάποιον να αναπτύξει πολυπρακτορικές αυτόνομες εφαρμογές. Βέβαια, μπορείς να πετύχεις το ίδιο αποτέλεσμα και με τα εργαλεία της OpenAI και της Google.
 
Ίσως αποκτίσουμε και εκδόσεις άνω του Pro για τέτοια χρήση από cybersecurity πελάτες με τρελό κόστος

Επειδή ήμουν σε cyber security team αρκετά χρόνια, αυτά που λείπουν από έναν απλό χρήστη για να θεωρηθεί cyber security είναι 3 πράγματα.
1) εμπειρία που ίσως εδώ το Claude να βοηθήσει, ανεξαρτήτου μοντέλου.
2) ένα στημένο kali Linux Με burp, nmap κλπ.
3) νομική κάλυψη

Μία σοβαρή εταιρία πληρώνει για την εμπειρία του team. Όχι τα script που θα τρέξουν.
Το όποιο Claude δεν ξέρει καν ότι οι Γερμανοί ξεκινάνε τα email τους με "hello together" για να στήσει ένα σωστό phissing mail 😂
 
Για αυτό δεν χρησιμοποιούν chatgpt.
Για να μην τους λέει "να σου δείξω και πως θα γίνει πιο επαγγελματικό;" κάθε φορά που τελειώνει. 😂
Στο Claude δίνεις ένα Claude.md και ξεμπερδεύεις.
 
  • Like
Reactions: songless_bird
Για αυτό δεν χρησιμοποιούν chatgpt.
Για να μην τους λέει "να σου δείξω και πως θα γίνει πιο επαγγελματικό;" κάθε φορά που τελειώνει.
Στο Claude δίνεις ένα Claude.md και ξεμπερδεύεις.
Με εχει πρήξει

Από τότε που του είπα ότι θέλω να έχει επαγγελματική χρήση και ακρίβεια το project μου , συνέχεια το λέει Και το λέει με τρόπο που να σε κάνει να ρωτήσεις
 
  • Haha
Reactions: Tzimisce
 
Με τις δυνατότητες που έχει το κάθε Claude, να χρησιμοποιεί το software του pc, ακόμη και τα απλά μοντέλα μπορούν να τρέξουν automated penetration tests.
Αν ξέρεις να το δουλεύεις, το εκπαιδεύεις εύκολα.
Από την άλλη, σοβαρά συστήματα έχουν και σοβαρές υποδομές που θα καταλάβουν τι κάνεις ακόμη και αν δεν καταφέρεις τίποτα.
Και είναι θέμα δευτερολέπτων να σε μπλοκάρουν.
Τέτοιες επιθέσεις απαιτούν rolling proxies, υποδομές, γνώσεις και τόση εμπειρία που μόνο κυβερνητικές υπηρεσίες πιστεύω τις έχουν.
Από τη στιγμή που ξεκίνησα να γράφω το μήνυμα μέχρι που πάτησα το post έχουν γίνει κάποιες χιλιάδες επιθέσεις μόνο σε decoy servers που τις αναλύουν και δημιουργούν reports για τα αντίμετρα.
Ακούσατε να πέφτει κάτι;
 
Βρέθηκε ευαλωτότητα στο OpenBSD! που ήταν ανοιχτή 27 χρόνια ενώ έκαναν διορθώσεις στο ffmpeg οι οποίες είναι σε επίπεδο expert.

Αυτό π.χ. ΑΝ το είχε σκεφτεί κάποιος black hat (που δεν παίζει) θα είχε fix στο πεντάλεπτο.
Απλουστευμένα, πρέπει να στείλεις στον server κάτι του στυλ "έλαβα τα πακέτα από 1 έως 100, μου λείπουν τα πακέτα από 300 έως 200" όπου δημιουργούσε integer overflow και έσκαγε ο kernel.
Ναι, δεν το είχαν σκεφτεί αλλά το patch είναι μια γραμμή.

Πιο τεχνικά, για να γίνει αυτό πρέπει να γράψεις κώδικα σε c π.χ. ώστε να παρακάμψεις το λειτουργικό σου σύστημα και να στείλεις ακατέργαστα πακέτα απευθείας από το pc σου στο SACK του server.

Πιάσε το αυγό και κούρευτο δηλαδή. 😉
 

υπαρχει βεβαια και ο αντιλογος

To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.

Claude Mythos is mostly ‘marketing hype’ | Bruce Schneier
 
Last edited:
Αυτό π.χ. ΑΝ το είχε σκεφτεί κάποιος black hat (που δεν παίζει) θα είχε fix στο πεντάλεπτο.
Απλουστευμένα, πρέπει να στείλεις στον server κάτι του στυλ "έλαβα τα πακέτα από 1 έως 100, μου λείπουν τα πακέτα από 300 έως 200" όπου δημιουργούσε integer overflow και έσκαγε ο kernel.
Ναι, δεν το είχαν σκεφτεί αλλά το patch είναι μια γραμμή.

Πιο τεχνικά, για να γίνει αυτό πρέπει να γράψεις κώδικα σε c π.χ. ώστε να παρακάμψεις το λειτουργικό σου σύστημα και να στείλεις ακατέργαστα πακέτα απευθείας από το pc σου στο SACK του server.

Πιάσε το αυγό και κούρευτο δηλαδή. 😉

Μα δεν ήταν ποτέ το ζήτημα το fix. Μια τυπική ομάδα "παίρνει φωτιά" δουλεύοντας για το fix επειδή θέλει να βγεί γρήγορα το patch, δεν υπάρχει συνήθως κάποια τρομερή δυσκολία εκεί.
Το όλο ζουμί είναι το να βρείς το vulnerability και να πιάσεις κάθε edge σενάριο, πιθανό ή απίθανο του να γίνει exploit.

Στο freebsd επίσης βρήκε attack surface που οδηγεί σε root access. Edge case; Οριακά απίθανο να γίνει; Ναι, αλλά αυτά σε ενδιαφέρει να κλείσουν. Θα έχουμε μοντέλα το επόμενο διάστημα, χωρίς security guardrails που θα ψάχνουν για όλα αυτά τα edge cases και σε ένα βαθμό θα τα βρίσκουν.
 
Για να πάρεις root access σε server πρέπει το app να έχει ενεργοποιημένες συγκεκριμένες εντολές που απαγορεύονται δια ροπάλου.
Όπως στην php η exec() π.χ.
Που δεν περνάει ούτε από το code review αλλά βλέπω τα ai να τις έχουν ψωμοτύρι 😂