Το Kubernetes, ένα σύστημα ενορχήστρωσης διαχείρισης κοντέινερ, έχει αποδειχθεί ζωτικής σημασίας για τη σύγχρονη πληροφορική, εκτός από έναν τομέα: την τεχνητή νοημοσύνη (AI) και τη μηχανική μάθηση (ML). Πρόβλημα: Το AI/ML απαιτεί σημαντικούς πόρους CPU, μνήμης και GPU, οι οποίοι δεν διαχειρίζονται εύκολα στο Kubernetes.
Τώρα, με την κυκλοφορία της τελευταίας έκδοσης του Kubernetes – Kubernetes 1.31, το Elli – Cloud Native Computing Foundation (CNCF) αντιμετωπίζει αυτά τα ζητήματα.
Επίσης: 5 τρόποι με τους οποίους οι CIO μπορούν να αυξήσουν τη ζήτηση των επιχειρήσεων για Generative AI
Οι βελτιωμένες λειτουργίες AI της Elli ξεκινούν με την υποστήριξη alpha για εικόνες και τεχνουργήματα Open Container Initiative (OCI) ως πηγή εγγενούς όγκου. Αυτό μπορεί να μην φαίνεται πολύ, αλλά επιτρέπει στους προγραμματιστές να εναλλάσσονται μεταξύ μοντέλων μεγάλων γλωσσών (LLM) τόσο εύκολα όσο κάνουν με κανονικές εικόνες κοντέινερ.
Η Elli φέρνει επίσης ένα ενημερωμένο API και σχεδιασμό δυναμικής κατανομής πόρων στο Kubernetes. Αυτή η δυνατότητα θα βοηθήσει στην τυποποίηση της πρόσβασης και της διαχείρισης των επιταχυντών υλικού, όπως οι GPU, που χρειάζονται για AI και ML. Διευκολύνει επίσης την εφαρμογή λειτουργιών όπως η αυτόματη κλιμάκωση συμπλέγματος, η οποία με τη σειρά της θα διευκολύνει την εκτέλεση εργασιών AI και ML στο Kubernetes.
Προηγουμένως, η Kubernetes είχε πολλούς τρόπους πρόσβασης στο υποκείμενο υλικό κεντρικού υπολογιστή. Το ενημερωμένο Dynamic Resource Allocation (DRA) παρέχει έναν ευκολότερο τρόπο πρόσβασης στους πόρους του συστήματος. Το παλιό στυλ, το οποίο χρησιμοποιεί τον ελεγκτή προγράμματος οδήγησης DRA, εξακολουθεί να υποστηρίζεται μέσω του “κλασικού DRA”.
Αφήνοντας πίσω την τεχνητή νοημοσύνη, η Kubernetes υποστηρίζει τώρα πλήρως το AppArmor, μια ενότητα ασφαλείας πυρήνα Linux που επιτρέπει στους διαχειριστές συστημάτων να περιορίζουν το τι μπορούν να κάνουν τα προγράμματα με τα προφίλ ανά πρόγραμμα. Αυτή η δυνατότητα έχει γίνει γενικά διαθέσιμη, επιτρέποντας στους χρήστες να ορίζουν προφίλ AppArmor για κοντέινερ απευθείας μέσω του Kubernetes API. Όταν εφαρμοστεί σωστά, η υποστήριξη AppArmour μπορεί να βοηθήσει να γίνουν πιο ασφαλή τα συμπλέγματα και οι φόρτοι εργασίας του Kubernetes.
Σε άλλο σημείο στο μέτωπο ασφαλείας, μια νέα προαιρετική δυνατότητα επιτρέπει στους διαχειριστές να διαμορφώνουν τα τελικά σημεία έτσι ώστε να μπορούν να αποκλειστούν ανώνυμα αιτήματα πρόσβασης. Αυτό θα βοηθήσει στην προστασία των συμπλεγμάτων από εσφαλμένες διαμορφώσεις ελέγχου πρόσβασης βάσει ρόλων (RBAC) που διαφορετικά θα μπορούσαν να επιτρέψουν σε ανώνυμους χρήστες ευρεία πρόσβαση στο σύμπλεγμα.
Επίσης: Το OIN επεκτείνει ξανά την προστασία διπλωμάτων ευρεσιτεχνίας για Linux (αλλά όχι για AI)
Ως ένα διαρκώς εξελισσόμενο πρόγραμμα ανοιχτού κώδικα, το Kubernetes 1.31 συνεχίζει επίσης να βελτιστοποιεί και να εκσυγχρονίζει τη βάση κωδίκων του, αφαιρώντας τις καταργημένες λειτουργίες. Αυτό περιλαμβάνει:
- Κατάργηση ενσωματώσεων παρόχου cloud μέσα στο δέντρο: Ολοκληρώνοντας τη διαδικασία που ξεκίνησε στην έκδοση 1.26, το Kubernetes 1.31 καταργεί όλες τις ενσωματώσεις παρόχων cloud στο δέντρο. Αυτή η κίνηση είναι μέρος μιας συνεχιζόμενης προσπάθειας για να διασφαλιστεί ότι η Kubernetes θα παραμείνει μια πλατφόρμα ουδέτερη από τους προμηθευτές. Μπορείτε ακόμα να ενσωματώσετε τα συμπλέγματα Kubernetes με έναν συγκεκριμένο πάροχο cloud. Ωστόσο, δεν θα μπορείτε να το κάνετε αυτό μέσα από το Kubernetes. Θα πρέπει να χρησιμοποιήσετε τη συνιστώμενη προσέγγιση μέσω εξωτερικής ενοποίησης.
- Κατάργηση υποστήριξης προσθηκών περιορισμού όγκου που δεν είναι CSI: Αυτή η έκδοση τερματίζει την υποστήριξη όλων των προσθηκών Χρονοδιάγραμμα περιορισμών όγκου που δεν είναι CSI, σύμφωνα με τη στρατηγική της Kubernetes για μετάβαση στη διεπαφή αποθήκευσης κοντέινερ (CSI) για όλες τις λειτουργίες που σχετίζονται με τον αποθηκευτικό χώρο.
- Απαρχαίωση Cgroups έκδοση 1: Το Cgroups είναι μια δυνατότητα του πυρήνα Linux που σας επιτρέπει να εκχωρείτε, να ιεραρχείτε και να διαχειρίζεστε πόρους συστήματος μεταξύ των διεργασιών. Από εδώ και πέρα θα πρέπει να χρησιμοποιείτε το cgroups v2.
Συνδυάστε τα όλα μαζί και αυτή η έκδοση έχει να κάνει πολύ περισσότερο από το να κάνουμε το Kubernetes φιλικό με το AI. Ο Άγγελος Κολαΐτης, ανώτερος μηχανικός λογισμικού στην Canonical και επικεφαλής της ομάδας Kubernetes 1.31, είπε ότι αυτή η νέα έκδοση στοχεύει “να αφαιρέσει την πολυπλοκότητα και τις συγκεκριμένες λεπτομέρειες εφαρμογής από τον κώδικα Kubernetes, έτσι ώστε το Kubernetes να επικεντρωθεί στην επιθυμητή κατάσταση και να αφήσει όλες τις επιπρόσθετες πηγές.” κωδικός πέρα από αυτό.”
Επίσης: Τι είναι το Kubernetes και γιατί είναι τόσο σημαντικό;
Ο Kolaitis είπε ότι πέρα από τις νέες δυνατότητες, “δεν χρειάζεται να κάνετε τίποτα, αλλά η Kubernetes θα λάβει επιπλέον μέτρα για να βεβαιωθεί ότι οι φόρτοι εργασίας σας λειτουργούν, αξιόπιστοι και ότι μπορείτε να υπολογίζετε ότι οι υπηρεσίες παραγωγής σας δεν θα διακοπούν.”
Τα νέα χαρακτηριστικά είναι καλά, αλλά η σταθερότητα είναι χρυσός. Για αυτόν τον λόγο, προτείνω να εξετάσετε την αναβάθμιση σε Kubernetes 1.31 το συντομότερο δυνατό.