Τεχνητή Νοημοσύνη (AI). Τι είναι, τι ξέρουμε, τι αλλάζει στη ζωή και στον πολιτισμό;
- Thread starter Sonus Naturalis
- Start date
Γιώργος Κυριακαράκος
Administration Team
- 17 June 2006
- 11,361
Η πρώτη αντίδραση είναι
αχαχαχαχαχαχαχαχαχαχαχαχα
Η δεύτερη αντίδραση είναι τα παρακάτω από το επεισόδιο 1 της σεζόν 7 του Black Mirror με τίτλο Common People
αχαχαχαχαχαχαχαχαχαχαχαχα
Η δεύτερη αντίδραση είναι τα παρακάτω από το επεισόδιο 1 της σεζόν 7 του Black Mirror με τίτλο Common People
Θυμάστε τη συζήτηση για το "private cloud" της Apple και τα μοντέλα AI;
Εχθές στη παρουσίαση των οικονομικών αποτελεσμάτων της Google, ο CEO επιβεβαίωσε πως θα τρέχουν στο Google Cloud Platform.
Εχθές στη παρουσίαση των οικονομικών αποτελεσμάτων της Google, ο CEO επιβεβαίωσε πως θα τρέχουν στο Google Cloud Platform.
Τελικά το έστειλα σε μαθηματικό να τσεκάρει το αποτέλεσμα. Κι αν δώσει το ΟΚ, προχωράει σε κανονική κρίση επί του περιεχομένου.
Γιώργος Κυριακαράκος
Administration Team
- 17 June 2006
- 11,361
Εν μέρει αναμενόμενο. Η MS έχει πάει στην OpenAI, δεν θα μπορούσε με τίποτα η Apple να πάει στην ίδια εταιρία. Και από τις υπόλοιπες η Google τα έχει όλα (από δικούς της επεξεργαστές και μοντέλα ΑΙ μέχρι cloud υποδομές) και είναι η μόνη που δεν θα κλείσει σίγουρα όταν σκάσει η φούσκα μιας και το ΑΙ είναι ένα απλά από τα πολλά που κάνει.
Άρα η κόρη της Siri λογικά θα είναι χειρότερη από τον νέο βοηθό που είναι βασισμένος στο Gemini στα android τηλέφωνα.
Καταλαβαίνω ομως οτι θα τρεχουν με τα specifications της Apple (Private Cloud Compute). Οτι θα εκανε δλδ η Apple στο δικο της server farm.
Θα χρησιμοποιήσει το LLM του Gemini ως foundation. Δεν ξερω ποσο καλύτερη ή χειροτερη θα ειναι, αλλα εχει το πλεονέκτημα πως θα εχει system level access στο iphone και θα μπορει να τρεχει locally πολλες διεργασιες βασει προσωπικών δεδομένων που υπαρχουν μονο στη συσκευη οποτε λογικα θα εχει καλες επιδοσεις ως personal assistant.
Αναμενουμε με πολύ ενδιαφέρον.
Εφόσον τρέχει σε υποδομή της Google, το προϊόν είναι το Virtual Private Cloud. Τα specifications της Apple ήταν για τα δικά της μοντέλα, τώρα τα gemini θα τρέχουν στα μηχανήματα με τις TPU της Google.
Τώρα το VPC αυτοί μπορεί να το πούν μαρκετινίστικα όπως θέλουν. Το προϊόν πάντως είναι αυτό.
Γιώργος Κυριακαράκος
Administration Team
- 17 June 2006
- 11,361
Νομίζω ότι κάτι αντίστοιχο με αυτό που κάνει η MS με το Copilot θα κάνει και η Apple με το Gemini. Με τη μεγάλη διαφορά ότι η MS τρέχει σε Azure τα πάντα, ενώ η Apple θα είναι δεμένη και στο σύννεφο της Google.
Νομίζω είναι η αρχή του τέλους της Apple στο να γίνει πάλι Niche επιλογή από Mainstream που κατάφερε. Όλα σχεδόν τα ΑΙ θα είναι καλύτερα σε άλλους γιατί δεν θα έχει κάτι δικό της εκτός αν φτιάξει πρώτη ένα ασφαλές open-claw. Τη βλέπω να ξαναγυρίζει στην καινοτομία του ταιριάζω με τις κουρτίνες. Εκτός αν το γυρίσει στο να προσφέρει ανταγωνιστές με χαμηλότερο κόστος σε mini οικιακούς server για offline AI.
Αυτή τη στιγμή όσοι θέλουν να τρέξουν μεγάλα μοντέλα στο σπίτι έχουν 3 βασικές επιλογές:
- Αν μπορούν αγοράζουν ένα NVIDIA DGX Spark με ~4000 ευρώ στην ΕΕ.
- Η εύκολη λύση είναι ένα Mac Mini με 64 GB ram που και αυτά πια είναι απίστευτα δύσκολο να τα βρεις ή το κόστος αναβάθμισης έχει γίνει τρελό.
- Στήνεις desktop με 2 RTX με 16 GB...γιατί θεωρητικά μπορείς να στήσεις με δύο 32 GB κάρτες αλλά η τιμή τους είναι απλά τρελή σήμερα.
Πάντως είμαστε πιο κοντά στην εποχή που κάποιος θα σκεφτεί την συσκευή που θα αντικαταστήσει το κινητό μας. Η Meta παίζει με τα γυαλιά, η OpenAI παίζει με στυλό, το οικοσύστημα του Musk θέλει να περάσει τις ενδιάμεσες γενιές και να μας συνδέσει στον εγκέφαλο απευθείας με τη μηχανή. Προφανώς αυτό μπορεί να είναι το προϊόν που θα ξανασώσει την Apple όπως την έσωσε τότε το iPhone.
Δεν νομιζω να αλλαξει το μοντελο λειτουργίας της η Apple.
Ισως ειναι κατι αλλο που επισημανε ο Gemini: The "preferred cloud provider" status most likely refers to the training phase. Training frontier-level models requires massive clusters of AI accelerators (like Google's TPUs) that Apple does not possess at the same scale. Apple is likely paying Google billions to rent TPU pods to train or fine-tune these "Next Gen" Apple Foundation Models.
Γιώργος Κυριακαράκος
Administration Team
- 17 June 2006
- 11,361
Το γράφουν καθαρά ότι η Apple δεν θα αναπτύξει μοντέλο και ότι θα χρησιμοποιήσει το Gemini. Μετά μπορεί "από πάνω" να κάνει ρυθμίσεις. Αυτό ακριβώς κάνει και η MS με το Copilot πάνω στο ChatGPT. Για αυτό και ίδια Prompts στο copilot και chatgpt δίνουν διαφορετικές απαντήσεις.
Η apple εχει ηδη δικα της μοντελα, απλα το ερώτημα ειναι αν θα τα αντικαταστησει τελειως ή μερικώς με το gemini ή θα τα κανει train με αυτο.
Το μονο σιγουρο ειναι οτι δεν θα αλλαξει τη φιλοσοφια του Private Cloud Compute της.
Γιώργος Κυριακαράκος
Administration Team
- 17 June 2006
- 11,361
Η Apple πρακτικά έχει ρίξει λευκή πετσέτα στην ανάπτυξη LLM καιρό τώρα. Προσπάθησε να αναπτύξει λειτουργίες/μοντέλα/όπως θέλουμε να τα πούμε που να τρέχουν locally. Όλοι θα θέλαμε να τα κατάφερνε. Όμως προφανώς τα μοντέλα της δεν ήταν αρκετά για να υλοποιήσουν το όραμά της για νέες ΑΙ λειτουργίες που ήδη δίνει ο ανταγωνισμός. Κατάλαβε ότι έπρεπε να ακολουθήσει μια υβριδική διαδρομή, όπου τα μικρά γίνονται στη συσκευή, αλλά για αυτά που απαιτείται περισσότερη επεξεργαστική ισχύ να φεύγουν για το σύννεφο.
Αλλά όπως είπα και πριν μπορεί να φτιάξει κάτι που να είναι διαφορετικό ακόμη και αν χρησιμοποιεί το ίδιο LLM με κάποιον άλλο.
Είδαμε όλοι τις τελευταίες ημέρες πως ένας agent το clawbot/moltbot/openclaw λατρεύτηκε όσο τίποτα και ταυτόχρονα καταδικάστηκε από πολλούς λόγω έλλειψης ασφάλειας. Αν φτιάξει κάτι αντίστοιχο η Apple βασιζόμενη στα δικά της στη συσκευή για τα μικρά και στο Gemini για τα δύσκολα θα μεγαλώσει και άλλο πολύ. Το hardware των iPhone μπορεί άνετα να σηκώσει μοντέλα 14Β που να κάνουν τρέχουν αρκετές από τις βασικές λειτουργίες στο τηλέφωνο και για ότι περισσότερο και μόνο να πηγαίνει στο σύννεφο.
Βέβαια αυτό είναι πολύ πιο δύσκολο σε σχέση πχ με την google που τα στέλνει όλα στο σύννεφο με τη μία.
Το ότι θα αλλάξει η φιλοσοφία της υποδομής της (με το marketing και τους non industry standard ορισμούς δεν ασχολούμαι, το έχουν και άλλοι πλην της Apple το θέμα), θα αλλάξει επειδή δεν γίνεται διαφορετικά.
Δεν μπορεί να γίνει train μοντέλο με άλλο μοντέλο. Αυτό στον κόσμο των LLM λέγεται distillation και αφορά τη δημιουργία μικρότερων μοντέλων μιας εταιρίας βάσει των μεγαλύτερων της. To Gemini 3 Flash είναι distilled μοντέλο που προέκυψε από το 3 Pro. Το 2.5-flash-lite, αντίστοιχα από το 2.5. Εάν θέλουν διαφορετικό μέγεθος, επειδή ήδη υπάρχουν όλα τα ενδιάμεσα έτσι και αλλιώς, δεν πιστεύω πως θα ξοδέψουν χρήματα σε αυτό. Fine tune μπορεί να κάνουν ωστόσο.
Δεν συζητάμε για εφεύρεση του τροχού. Χρησιμοποιούν κυρίως την Amazon web services για το icloud ήδη. Τα μοντέλα Gemini της Google, τρέχουν ή σε υποδομή που σου φέρνει η Google σε datacenter σου σε μικρότερο scale ή στα datacenter της Google. Υπάρχει η πληροφορία από τον CEO της Google πως επέλεξαν το Google Cloud για να τρέχουν.
Δεν θα γίνουν train νεά μοντέλα από την αρχή, με πρωτογενή δεδομένα. Αυτό απαιτεί τα super pods και τις δεκάδες χιλιάδες TPUs, έχει γίνει ήδη. Οι εταιρίες πίσω από τα λεγόμενα frontier μοντέλα, το κάνουν για τα μεγάλες νέες κυκλοφορίες τους. Μετά, ότι ενδιάμεσες εκδόσεις βλέπουμε, είναι αποτέλεσμα του post training. Με το ίδιο dataset δηλαδή του GPT5, η OpenAI έφερε τις βελτιώσεις του 5.1, 5.2 και τώρα του 5.3. Αντίστοιχα, το Opus 4 και το Opus 4.1 κ.ο.κ.
Το fine tune μοντέλων είναι αρκετά πιο light στην εκπαίδευση, δεν απαιτεί επ'ουδενί αντίστοιχη δέσμευση υποδομής. Αυτή τη στιγμή η Google δε, δεν έχει την απαιτούμενη χωρητικότητα για να κάνει αυτή τη διαδικασία πέραν του ότι είναι ήδη δεσμευμένο στη DeepMind. Υπάρχει τεράστιο πρόβλημα.
Αυτό που απαιτεί απίστευτους πόρους είναι το inference -το οποίο δημιουργεί και το ήδη τεράστιο πρόβλημα. Το να τρέχει δηλαδή το μοντέλο τα prompts των χρηστών, οι οποίοι δυνητικά είναι εκατοντάδες εκατομμύρια.
Σε τέτοιο scale, εάν θα με ρώταγε κανείς να κάνω μια "πληροφορημένη πρόβλεψη", θα έλεγα πως δεν θα άφηναν σε καμμία περίπτωση τα 20% gain σε efficiency των TPU. Για αυτούς το να τρέξουν on premises μέσω του Google Distributed Cloud θα έχει εξαιρετικά μεγάλα κόστη.
Μπορεί πάντα να αποφασίσουν να φτιάξουν παγκόσμιο δίκτυο datacenters, να επιλέξουν το Google Distributed Cloud για να τρέξει, αλλά πέραν του κόστους, πέραν της εμπειρίας με το icloud που επέλεξαν το AWS και της αναφοράς του CEO, έστω πως θα ήθελαν να το κάνουν για κάποιον ακατανόητο λόγο, θα συζητούσαμε για λανσάρισμα σε 3 χρόνια.
Edit: Το επέκτεινα λίγο για να είναι ακριβέστερο.
Last edited:
