Γύρισα στο τοπικό καθιερωμένο AI για έρευνα, επειδή δεν θέλω τα τρίτα μέρη να χρησιμοποιήσουν τις πληροφορίες μου για να οικοδομήσουν ένα προφίλ ή να διδάξουν τα μοντέλα τοπικής γλώσσας (LLMS).
Το τοπικό τεχνητό μου AI-hollam με ανοιχτή πηγή. Πρόσφατα έγραψα ένα άρθρο σχετικά με τον τρόπο διευκόλυνσης της χρήσης αυτού του τοπικού LLM με την επέκταση του προγράμματος περιήγησης που χρησιμοποιώ στο Linux. Αλλά στο macOS στρέφομαι σε μια απλή εφαρμογή χρήσης που ονομάζεται MSTY.
Επίσης: Πώς να μετατρέψετε το Ollama από ένα εργαλείο τερματικού σε τεχνητή νοημοσύνη που βασίζεται σε ένα πρόγραμμα περιήγησης με αυτήν την ελεύθερη επέκταση
Το MSTY σας επιτρέπει να χρησιμοποιείτε τοπικά εγκατεστημένα και ηλεκτρονικά μοντέλα τεχνητής νοημοσύνης. Παρ ‘όλα αυτά, από προεπιλογή, σε μια τοπικά εγκατεστημένη επιλογή. Και, σε αντίθεση με άλλες επιλογές για το Ollama, δεν υπάρχει δοχείο για ανάπτυξη, δεν υπάρχει τερματικό για χρήση και δεν χρειάζεται να ανοίξετε μια άλλη καρτέλα.
Το MSTY έχει πράγματα όπως διαιρεμένες συνομιλίες (έτσι ώστε να μπορείτε να εκτελέσετε περισσότερα από ένα αίτημα κάθε φορά), να αναγεννήσετε την ανταπόκριση του μοντέλου, να κλωνοποιηθούν συνομιλίες, να προσθέσετε διάφορα μοντέλα, την κλήση δεδομένων σε πραγματικό χρόνο (που λειτουργεί μόνο με ορισμένα μοντέλα) , Δημιουργία γνώσεων της γνώσης (όπου μπορείτε να προσθέσετε αρχεία, φακέλους, αποθήκες οψιανών, σημειώσεις και πολλά άλλα που θα χρησιμοποιηθούν για να διδάξουν το τοπικό μοντέλο σας), η βιβλιοθήκη είναι γρήγορη και πολύ περισσότερο.
Το MSTY είναι ένα από τα καλύτερα εργαλεία για την αλληλεπίδραση με το Ollam. Εδώ είναι πώς να το χρησιμοποιήσετε.
Εγκατάσταση msty
Τι χρειάζεστε: Το μόνο πράγμα που χρειάζεστε για αυτό είναι η συσκευή MacOS και η Olma είναι εγκατεστημένη και λειτουργεί. Εάν δεν έχετε εγκαταστήσει ακόμα το Ollama, το κάνετε το πρώτο (έτσι). Πρέπει επίσης να αποσύρετε ένα από τα τοπικά μοντέλα (τα οποία αποδεικνύεται στο παραπάνω άρθρο).
Μεταβείτε στον ιστότοπο MSTY, κάντε κλικ στο MSTY Loading, επιλέξτε το Mac και, στη συνέχεια, επιλέξτε το Apple Silicon ή Intel.
Δείξτε περισσότερα
Όταν ολοκληρωθεί η εγκατάσταση, κάντε κλικ στο αρχείο δύο φορές και, όταν παρουσιάζεται, σύρετε το εικονίδιο MSTY στο φάκελο εφαρμογών.
Δείξτε περισσότερα
Χρησιμοποιώντας το MSTY
1. Ανοίξτε το MSTY
Στη συνέχεια, ανοίξτε το LaunchPad και βρείτε τη μονάδα εκτόξευσης για το MSTY. Κάντε κλικ στην εγκατάσταση εκκίνησης για να ανοίξετε την εφαρμογή.
2. Συνδέστε το τοπικό μοντέλο Ollama
Όταν ξεκινάτε για πρώτη φορά το MSTY, κάντε κλικ στην επιλογή “Ρύθμιση τοπικής τεχνητής νοημοσύνης” και θα φορτώσει τα απαραίτητα εξαρτήματα. Αφού ολοκληρωθεί το φορτίο, θα φροντίσει τη διαμόρφωση και θα φορτώσει το τοπικό μοντέλο εκτός από το Ollama.
Επίσης: Δοκίμασα την τοπική εφαρμογή AI Sanctum, και αυτό είναι ακριβώς αυτό που πρέπει να αποθηκεύσω τα δεδομένα μου στο ιδιωτικό
Για να συνδέσετε το MSTY με το Ollama, πατήστε τα τοπικά μοντέλα τεχνητής νοημοσύνης στον πλαϊνό πίνακα και, στη συνέχεια, πατήστε το κουμπί λήψης που σχετίζεται με το LLAMA 3.2. Μετά τη φόρτωση, μπορείτε να το επιλέξετε από το μοντέλο drop -down. Μπορείτε επίσης να προσθέσετε άλλα μοντέλα για τα οποία χρειάζεστε για να πάρετε το πλήκτρο API από το λογαριασμό σας για αυτό το συγκεκριμένο μοντέλο. Τώρα το MSTY πρέπει να συνδεθεί με το τοπικό Ollama LLM.
Προτιμώ να χρησιμοποιήσω το τοπικό μοντέλο Ollama.
Οθόνη Jack Walleni.
Σε αυτό το στάδιο, μπορείτε να εισαγάγετε το πρώτο σας αίτημα και να περιμένετε μια απάντηση.
3. Οδηγίες μοντέλου
Ένα από τα ενδιαφέροντα χαρακτηριστικά MSTY είναι ότι σας επιτρέπει να αλλάξετε τις οδηγίες του μοντέλου.
Για παράδειγμα, ίσως θελήσετε να χρησιμοποιήσετε το τοπικό LLM ως γιατρό που υποστηρίζεται από το AI για το γράψιμο, τη λογιστική, ως αλλοδαπό ανθρωπολόγο ή ως σύμβουλος τέχνης.
Για να αλλάξετε τις οδηγίες του μοντέλου, κάντε κλικ στο κουμπί “Αλλαγή οδηγιών μοντέλου” στο κέντρο της εφαρμογής και, στη συνέχεια, κάντε κλικ στο κουμπί “Tiny Chat” στα αριστερά του εικονιδίου σκούπας.
Επίσης: το καλύτερο AI για κωδικοποίηση το 2025 (και τι δεν πρέπει να χρησιμοποιήσετε)
Στο μενού pop -up μπορείτε να επιλέξετε τις οδηγίες που θέλετε να υποβάλετε αίτηση. Κάντε κλικ στην επιλογή “Εφαρμογή αυτής της συνομιλίας” πριν ξεκινήσετε το πρώτο αίτημα.
Μπορείτε να επιλέξετε από διάφορες οδηγίες μοντέλου για να ακονίσετε τα αιτήματά σας.
Οθόνη Jack Walleni.
Υπάρχουν πολλά άλλα πράγματα που μπορούν να κάνουν, αλλά αυτή η ηγεσία θα σας κάνει να εργαστείτε γρήγορα. Θα πρότεινα να ξεκινήσετε με τους λόγους και, όταν συνηθίζετε στην εφαρμογή, πηγαίνετε σε πιο περίπλοκες διαδικασίες.
