Auch wenn sich das Thema etwas abseits von unseren üblichen News Themen bewegt könnten wir diesen besonders frischen Artikel auf Medium wirklich jedem ans Herz legen, der sich etwas für die Theorie hinter der Technik interessiert.
Ohne viel mathematischen Background versucht der englischsprachige Artikel "An Intuitive Look at the Basics of Information Theory" von Thomas Hikaru Clark dabei wichtige Konzepte, die hinter Kompression und Kryptologie stehen, an einfachen Beispielen zu erklären. Und veranschaulicht dabei Begriffe wie beispielsweise Entropie und Redundanz, ohne sich dabei auf die statistischen Formeln zu berufen.
Vielmehr helfen die vielen gewählten Beispiele wirklich zu verstehen, warum (und wann) Kompression überhaupt funktionieren kann. Oder was sich hinter der Kolmogorow-Komplexität verbirgt.
Alle diese Begriffe sind übrigens nicht nur für die Signalübertragung oder die Videokompression essentiell, sondern finden aktuell mindestens ebenso breiten Einsatz in vielen Modellen der KI. Beziehungsweise bei der Interpretation derselben.
Wer also ein bisschen über seinen Tellerrand schauen will und einen wirklich zugänglichen (allerdings englischen) Einstieg in die faszinierende Welt der Informationstheorie sucht, sollte sich unbedingt die Zeit nehmen, diesen Artikel zu verstehen. Selten bekommt man komplexe Ideen derart verdaulich aufgetischt.
Guten Appetit...
