Η Opera φέρνει επανάσταση στην περιήγηση με τοπικές LLMs: αντίο εθισμός στο Internet

ΗOpera ανακοίνωσε σήμερα μια νέα λειτουργία που επιτρέπει στους χρήστες να κατεβάζουν και να χρησιμοποιούν μεγάλα γλωσσικά πρότυπα απευθείας στον υπολογιστή τους. Αυτή η λειτουργία εισήχθη αρχικά για τους χρήστες του Opera One που λαμβάνουν ενημερώσεις από τη ροή προγραμματιστών. Τώρα θα είναι δυνατή η επιλογή από περισσότερα από 150 πρότυπα από περισσότερες από 50 διαφορετικές οικογένειες, συμπεριλαμβανομένων των Llama της Meta, Gemma και Vicuna της Google.

Τα πλεονεκτήματα της χρήσης LLM σε τοπικό επίπεδο

Η τοπική χρήση των LLM προσφέρει πολλά πλεονεκτήματα στους χρήστες. Πρώτα απ’ όλα, επιτρέπει την πρόσβαση σε μια ευρεία επιλογή προτύπων τρίτων κατασκευαστών απευθείας στο πρόγραμμα περιήγησης, χωρίς την ανάγκη χρήσης διαδικτυακών εργαλείων. Επιπλέον, τα μοντέλα που έχουν ληφθεί τοπικά μπορούν επίσης να δοκιμαστούν και να χρησιμοποιηθούν εκτός σύνδεσης, επιτρέποντας στους χρήστες να εργάζονται πιο αποτελεσματικά και χωρίς να εξαρτώνται από μια σταθερή σύνδεση στο Διαδίκτυο.

Σύμφωνα με τον Jan Standal, αντιπρόεδρο της Opera,“η Opera προσφέρει για πρώτη φορά πρόσβαση σε μια μεγάλη ποικιλία LLM τρίτων κατασκευαστών απευθείας στο πρόγραμμα περιήγησης. Αναμένεται ότι το μέγεθος των μοντέλων θα συρρικνώνεται καθώς θα εξειδικεύονται περισσότερο για συγκεκριμένες εργασίες“.

Πώς λειτουργεί η λήψη και η χρήση LLMs στην Opera

Για να μπορούν να κατεβάσουν και να χρησιμοποιήσουν τα LLMs στο Opera, οι χρήστες πρέπει να είναι εγγεγραμμένοι στο πρόγραμμα Opera AI Feature Drops, το οποίο τους παρέχει πρόσβαση σε προεπισκόπηση σε ορισμένα από τα νέα χαρακτηριστικά που βασίζονται στην τεχνητή νοημοσύνη. Επί του παρόντος, η Opera χρησιμοποιεί το πλαίσιο ανοικτού κώδικα Ollama για την εκτέλεση γλωσσικών μοντέλων στον υπολογιστή του χρήστη.

Τα διαθέσιμα μοντέλα είναι μια επιλογή από τη βιβλιοθήκη του Ollama, αλλά η εταιρεία ανακοίνωσε ότι στο μέλλον θα συμπεριληφθούν μοντέλα από διαφορετικές πηγές. Είναι σημαντικό να σημειωθεί ότι κάθε παραλλαγή των προτύπων καταλαμβάνει περισσότερο από 2 GB χώρο στον τοπικό δίσκο, οπότε καλό είναι να ελέγχετε τον διαθέσιμο χώρο για να μην ξεμείνετε από αποθηκευτικό χώρο.

Άλλες επιλογές για τη χρήση προτύπων γλωσσών

Εάν επιθυμείτε να εξοικονομήσετε χώρο στον τοπικό σας δίσκο, υπάρχουν και άλλες επιλογές για τη χρήση διαδικτυακών προτύπων γλωσσών. Για παράδειγμα, διατίθενται διάφορα διαδικτυακά εργαλεία, όπως το Poe από την Quora και το HuggingChat, τα οποία σας επιτρέπουν να εξερευνήσετε διαφορετικά γλωσσικά πρότυπα χωρίς να χρειάζεται να τα κατεβάσετε στον υπολογιστή σας.

Άλλες λειτουργίες της Opera που βασίζονται στην τεχνητή νοημοσύνη

ΗOpera άρχισε να πειραματίζεται με λειτουργίες πουβασίζονται στην τεχνητή νοημοσύνη ήδη από πέρυσι. Τον Μάιο, η εταιρεία λάνσαρε έναν βοηθό με την ονομασία Aria στην πλαϊνή μπάρα του προγράμματος περιήγησης και τον εισήγαγε στην έκδοση για iOS τον Αύγουστο. Τον Ιανουάριο, η Opera ανακοίνωσε ότι εργαζόταν πάνω σε ένα πρόγραμμα περιήγησης βασισμένο σε τεχνητή νοημοσύνη με τη δική της μηχανή για το iOS, ως απάντηση στις απαιτήσεις των νόμων της ΕΕ για την ψηφιακή αγορά (DMA) που ζητούσαν από την Apple να καταργήσει την απαίτηση για τη μηχανή WebKit για τα προγράμματα περιήγησης για κινητά.