Second Spectrum reduziert die Hosting-Kosten für Kubernetes mithilfe von AWS Load Balancer Controller und Amazon EKS um 90 %

Second Spectrum ist aus einer Forschungsgruppe an der University of Southern California hervorgegangen und wurde 2013 in Los Angeles gegründet. Fernsehzuschauer von Spielen der National Basketball Association, der Major League Soccer oder der Premier League haben die Technologie von Second Spectrum bereits in Aktion gesehen – zum Beispiel den Einsatz von Computer Vision, um die Bewegungen der Spieler zu erfassen. Als Startup versuchte Second Spectrum, schnell neue Tool-Angebote auszuprobieren und die praktikabelsten Lösungen in die Produktion zu bringen. Dazu benötigte das Unternehmen effizientes Routing, damit es bestimmte Teile seiner Architektur replizierbar bereitstellen konnte.

Für die Anwendungsbereitstellung setzt Second Spectrum seit 2014 auf Containerisierung. „Mit Kubernetes hat man alle Hände voll zu tun“, sagt Sheldon Kwok, Senior Director of Infrastructure bei Second Spectrum. „Da es so viele bewegliche Teile gibt, ist es extrem zeitaufwendig, die integrierten Funktionen von Kubernetes intern zu verstehen und zu verwalten.

„In dieser containerisierten Umgebung verlässt sich Second Spectrum auf Application Load Balancer, seit das Tool 2016 veröffentlicht wurde. Application Load Balancer wird auf Anforderungsebene (Schicht 7) ausgeführt und leitet den Datenverkehr an Ziele wie Container oder IP-Adressen weiter. Mangelnde Effizienz war für das Team jedoch weiterhin eine Herausforderung. „Ein zusätzlicher Netzwerkschritt war erforderlich: Zur Weiterleitung über den Kubernetes-Proxy mussten wir einen NodePort verwenden, der sich nicht zwingend in derselben Availability Zone wie der endgültige Service befand“, berichtet Kwok. Das Team von Second Spectrum war sehr daran interessiert, diesen zusätzlichen Schritt zu beseitigen, um die Leistung zu verbessern. 

Das Interesse der Entwickler von Second Spectrum war groß, als AWS im Jahr 2020 AWS Load Balancer Controller herausbrachte, der Unterstützung für Pods oder kleine Gruppen von Anwendungscontainern bietet, die gemeinsam bereitgestellt und verwaltet werden können. „Die IP-basierte Direct-Pod-Zielregistrierung von AWS Load Balancer Controller hat uns ermöglicht, unsere Konfiguration zu bereinigen und in einer einfach zu nutzenden Kubernetes-Eingabe zu konsolidieren“, so Kwok.

Second Spectrum erhielt weitere Unterstützung in Form von Amazon EKS, das den Kubernetes-API-Server für das Unternehmen verwaltete und als effizientere Alternative zum selbstverwalteten Kubernetes-Cluster diente. „Amazon EKS beseitigt sämtliche Probleme, die mit der Verwaltung von Kubernetes einhergehen“, sagt Kwok. „Dadurch können wir uns mehr produktbezogenen Features widmen.“ Die optimierte verwaltete Umgebung von Amazon EKS verbessert nicht nur die Produktivität, sondern ermöglicht dem Unternehmen auch, Kosten zu sparen: „Früher haben wir jeden Monat etwa 1 000 USD für den Betrieb eines einzigen Kubernetes-Clusters für die API-Server ausgegeben“, sagt Kwok. „Amazon EKS kostet uns rund 100 USD pro Monat.“

AWS Load Balancer Controller und Amazon EKS haben Second Spectrum ermöglicht, die Kubernetes-Pods direkt zu überwachen und den Extraschritt, erst die Instances zu durchlaufen, zu überspringen. Mit dieser neuen Konfiguration verzeichnete das Team eine Leistungssteigerung von rund 5 ms pro Anforderung – ein kleiner, aber wichtiger Gewinn, wenn man Tracking-Funktionen und Visualisierungen nahezu in Echtzeit bereitstellen möchte, um das Zuschauererlebnis zu verbessern. Außerdem reduziert dieser von AWS automatisierte Prozess das Risiko menschlicher Fehler in der Konfigurationskette erheblich. „Die Häufigkeit der Probleme, die mit dem Lastausgleich und der Verfügbarkeit auftreten, sollte um etwa 75 Prozent sinken“, sagt Eric Lui, Vice President of Engineering Operations bei Second Spectrum.

Das Team von Second Spectrum schätzt, dass die einfachere Konfiguration ihnen mindestens 2 Wochen Arbeitszeit pro Jahr einspart, da Entwickler sich oft selbst helfen können, anstatt auf das Infrastrukturteam warten zu müssen. Berücksichtigt man den Einsatz von Amazon EKS, wodurch der Zeitaufwand für die Schulung neuer Mitarbeiter im Betrieb selbstverwalteter Kubernetes-Cluster entfällt, summiert sich die voraussichtliche Zeitersparnis auf etwa 3 Monate Vollzeitäquivalent pro Jahr. Das Unternehmen kann nur einen Application Load Balancer für seinen gesamten Namespace verwenden, und AWS Load Balancer Controller kann dynamisch skaliert werden, um einen Zustrom eingehender Anforderungen zu verarbeiten und das Routing an ausfallende Proxyserver automatisch zu beenden.

Das Team von Second Spectrum betrachtet diese neue Konfiguration als einen wichtigen Schritt auf dem Weg zu einem DevOps-Ansatz für die Softwareentwicklung. „Wir möchten diese Tools Entwicklern zur Verfügung stellen, damit sie die Verantwortung für ihre eigene Lastausgleichskonfiguration übernehmen können: Bereitstellung, Tests und Zustandsprüfung“, so Lui. „Das eröffnet den Menschen die Möglichkeit, autonomer und produktiver zu sein. In puncto Auswirkungen auf die Organisation ist das ein Schlüsselelement.“

Jetzt, da die Entwickler von Second Spectrum nicht mehr so viel Zeit mit der Verwaltung von Kubernetes-Clustern verbringen, können sie sich stärker damit befassen, andere Möglichkeiten zu erkunden. In Zukunft plant das Team, Preiseinsparungen für elastische Workloads zu nutzen. Dazu sollen diese Workloads in AWS Fargate migriert werden, eine Serverless-Compute-Engine für Container, die mit Amazon EKS zusammen ausgeführt wird. Außerdem ist die neue Routing-Konfiguration skalierbar und replizierbar, sodass das Unternehmen eine ähnliche Konfiguration in Europa einrichten kann.

Second Spectrum entwickelt die Analysefunktionen im Sport kontinuierlich weiter und geht davon aus, dass AWS-Angebote eine wichtige Rolle spielen werden. „AWS ist sehr offen für Kundenanfragen. Wir fragen oft nach neuen Features und unser Technical Account Manager hat erwähnt, dass andere Kunden ähnliche Anfragen gestellt haben“, sagt Kwok. „Wir versuchen, den Überblick über all die neuen Funktionen zu behalten, die AWS bietet, damit wir AWS so viel wie möglich nutzen können.“ 

Second Spectrum wurde 2013 in Los Angeles gegründet. Als offizieller Tracking-Anbieter für die National Basketball Association, die Major League Soccer und die Premier League bietet Second Spectrum ein fortschrittliches maschinelles Verständnis von Spielen, das schnelle technologiegestützte Einblicke ermöglicht.

• Senkung der Hosting-Kosten für Kubernetes um 90 %
• Voraussichtliche Reduzierung der Fehlerquote um 75 %
• Voraussichtliche Zeiteinsparungen von 3 Monaten Vollzeitäquivalent pro Jahr für Entwickler und Schulung neuer Mitarbeiter
• Verbesserte Reaktionszeit von Anwendungen (5 ms pro Anforderung)