Datenmanagement

Zurück in die Zukunft für Flat Files - Teil 1

Actian Germany GmbH

6. November 2019

Datei- und Datenmanagement für flache Dateien

Warum eingebettet Software-Anwendungsentwickler Flat Files eingeführt haben

Kürzlich schrieb mein Kollege hier im Actian Product Marketing, Pradeep Bhanot, einen großartigen Blog über Datenhistoriker, in dem er ihre Abschaffung zugunsten modernerer Datenbanken zur Unterstützung von Zeitseriendatenverarbeitung und -analyse forderte. Aber in gewisser Weise sind Historiker nicht so historisch wie eine der am stärksten eingebettet Datenmanagement : die flache Datei. Tatsächlich vermute ich, dass die Verwendung von Flat Files weitaus verbreiteter ist als die Verwendung von Datenbanken oder Historikern als Mittel des eingebettet Datenmanagement. Das ist schwer zu beweisen, weil Analysten sie nicht als separate Kategorie von Datenmanagement erfassen, so wie sie es mit Datenbanken oder, sagen wir, Cloud Data Warehouses tun. Aber die Realität ist, dass es sie gibt; wir treffen auf Kunden in unserer installierten Basis sowie auf potenzielle Kunden, die aktiv Flat Files verwenden - und das nicht nur in ihren älteren Designs.

Warum haben wir die Flat File Adoption überhaupt erst gesehen?

Wenn Sie ein Entwickler sind und Code schreiben, um Betriebsdaten von Sensoren und anderen Edge-Systemen zu erfassen, schreiben Sie Ihren Code wahrscheinlich in C, C++, C# oder einer anderen Programmiersprache, die Ihnen direkten Zugriff auf die von den Geräten erfassten Daten ermöglicht. Früher, als ich noch Ingenieur war, habe ich zum Beispiel mit inp()- und outp()-Anweisungen gearbeitet (oder, um mich wirklich zu verabschieden, mit einer Reihe von Registern, die in Assembler adressiert wurden, huch, ich glaube, ich leide unter PTBS). Sie werden schnell feststellen, dass Sie einen Ort und eine Möglichkeit brauchen, die Daten dauerhafter zu speichern als die temporäre Speicherzuweisung in Ihrem Programm. Der Weg des geringsten Widerstandes ist eine Datei. Schließlich ist das der einfachste Ansatz, und fast jeder, der einen Programmierkurs besucht oder es sich selbst beibringt, kann das Dateisystem verwenden.

Flache Dateien waren "gut genug" für traditionelles eingebettet Datenmanagement

Die obigen Ausführungen erklären zwar, warum Sie die Möglichkeit der Übernahme haben, gehen aber nicht näher darauf ein, warum flache Dateien eine gute Lösung für die damalige Zeit waren. Ich möchte Ihnen ein paar wichtige Gründe nennen, warum sie gut genug waren:

1. Das Silo der Dinge bedeutete, dass alle Datenerfassung lokal war

Dateisysteme speichern Daten lokal, was für die meisten eingebettet Anwendungen am Rande mehr als ausreichend war, da sie ausschließlich für den lokalen Gebrauch bestimmt waren. Es bestand kein Bedarf an zusätzlichen Daten aus parallelen Datenströmen, geschweige denn an der Zusammenführung mit anderen Datentypen und der gemeinsamen Nutzung über Netzwerke. Daher waren eigenständige Dateisysteme ohne Netzwerkdatentransfer gut genug. Bedenken hinsichtlich des Streaming von Daten oder des Extrahierens, Transformierens und Ladens (ETL) in ein anderes System waren kein großes Hindernis.

2. Es gab nicht so viele Daten, Datenverarbeitung oder Analysen

Bis vor kurzem verfügten die meisten Betriebstechnologien über sehr begrenzte Rechenressourcen: 32-Bit- oder 16-Bit-Mikrocontroller, Sub-MB-DRAM und begrenzter Flash- oder EPROM-Speicher usw. Wenn Sie diese Begriffe nicht kennen, sagen Sie es so: Das ist das Oldsmobile Ihres Vaters. Da nur begrenzte Ressourcen zur Verfügung standen, war die meiste Software dazu da, das Gerät direkt für einen bestimmten Prozess zu steuern, und die gesammelten Daten dienten meist der Unterstützung dieses Prozesses und nicht der Instrumentierung des Prozesses oder der Analyse, um aktuelle oder künftige Vorgänge dieses Prozesses zu analysieren.

3. Es sind meine Daten, ich bin der Einzige, der sie nutzt, also zisch ab

Software-Entwicklungsspezifikationen? Kommentare, wer braucht schon Kommentare? OT-Entwickler sind oft die einzigen, die die von ihnen entwickelte Software verwenden, und die von ihrem Code erzeugten Daten werden im Allgemeinen nur von ihnen und möglicherweise einigen wenigen Experten für Testvalidierung auf der einen Seite und für Service und Support auf der anderen Seite gesehen. Da die Daten von ihnen und für sie generiert wurden, wäre es auch hier etwas weit hergeholt gewesen, diese Daten mit einem Geschäftsanalysten oder Data-Scientist in der Zentrale oder gar in der Geschäftsleitung zu teilen. Traditionelle IT- und Cybersicherheitsexperten im Rechenzentrum würden nicht gefragt werden und hätten auch nicht das Bedürfnis, sich in diese Projekte zu drängen.

Das Erbe respektieren, aber auf die Zukunft zugehen

Ich habe es verstanden, ich war selbst einmal einer dieser OT-Ingenieure, wie ich oben angedeutet habe. Als Softwareentwickler hat es einige Vorteile, mit Dateisystemen anzufangen, aber mit der zunehmend hypervernetzten Welt der Edge-Geräte von heute - auch bekannt als IoT-, mit weitaus mehr Ressourcen - ich kann einen Raspberry Pi für weniger als einen echten Kuchen bekommen - und mit der Notwendigkeit, Daten gemeinsam zu nutzen, um die geschäftliche Agilität und Innovation voranzutreiben und die OT reaktionsschneller und kostengünstiger zu machen, gibt es einen Bedarf für Veränderungen. Im nächsten Teil dieser Serie werden wir darüber sprechen, warum OT-Softwareentwickler sich nur ungern von ihren Flat-File-Systemen trennen und auf moderne Datenmanagement umsteigen.

Actian ist der Branchenführer für operative Data Warehouse- und Datenmanagement für moderne Unternehmen. Actian bietet ein komplettes Lösungspaket für die verwalten Daten On-Premises, in der Cloud und am Rande des Internets mit Mobile und IoT. Actian kann Ihnen dabei helfen, die technische Grundlage zu schaffen, die Sie für eine echte geschäftliche Agilität benötigen. Um mehr zu erfahren, besuchen Sie www.actian.com.

actian avatar logo

Über Actian Corporation

Actian macht Daten einfach. Unsere Datenplattform vereinfacht die Verbindung, Verwaltung und Analyse von Daten in Cloud-, Hybrid- und lokalen Umgebungen. Mit jahrzehntelanger Erfahrung in den Bereichen Datenmanagement und -analyse liefert Actian leistungsstarke Lösungen, die es Unternehmen ermöglichen, datengesteuerte Entscheidungen zu treffen. Actian wird von führenden Analysten anerkannt und wurde für seine Leistung und Innovation mit Branchenpreisen ausgezeichnet. Unsere Teams präsentieren bewährte Anwendungsfälle auf Konferenzen (z. B. Strata Data) und tragen zu Open-Source-Projekten bei. Im ActianBlog behandeln wir Themen wie Echtzeit-Dateneingabe, Datenanalyse, Data Governance, Datenmanagement, Datenqualität, Datenintelligenz und KI-gesteuerte Analysen.