McStarfighters Kodi Tower - Der finale Wahnsinn

  • Man muss schon ein wenig unterscheiden, ZFS ist sicherlich sehr gut und auch interessant im Bereich von 3-8 Platten für den Privaten Einsatz ohne HW Raidcontroller. In diesem Bereich wo sich diese Thread Bewegt, oder auch mein "Privater Server mit aktuell 244TB" muss die Hardware und Software schon ein wenig anders ausgelegt sein. Da reichen keine Green Platten oder ein 200Euro Raidcontroller oder ein Billigcase mehr.

    Merkliche Unterschiede sind zwar im normal gebrauch nicht feststellbar, jedoch ob man 24 std für ein Raidrebuilt wartet oder 4 Tage, obe 5 Clienten gleichzeitig einen Untouched UHD streamen können sind dann so Situtationen wo dann die ersten Überlegungen beginnen habe ich die richtige Hardware..... Natürlich gibt es immer pro und contras für alles und jedes... Aber die Zusammenstellung ist meiner Ansicht nach sehr gut gewählt...


    Gesendet von meinem iPad mit Tapatalk

  • Verwende für dieses Projekt lieber ZFS. Alle anderen Dateisysteme oder Raidcontroller bringen dir nicht soviel wie dieses wunderwerk eder Technik.

    Eine Informationsqulle dazU:

    http://cre.fm/cre049-das-zfs-dateisystem


    Vergiss den Ramverbrauch. Das wird bei dir vielleicht 1-2 GB sein. Selbst bei über 100TB. Da du nur wenige Zugriffe (schreibend) haben wirst. Du benötigst RAM vorallem deswegen um die Daten cachen zu können und so zB häufig genutzte Dokumente im Unternehmensnetzwerk schneller zugreifen zu können.

    ZFS ist echt ne gute Sache, da hab ich dann wieder das Problem, daß es nicht im Linux-Kernel ist. Ubuntu geht zwar mit 16.04 einen Sonderweg, da baue ich bei so etwas grundlegendem wie dem Dateisystem nicht langfristig darauf (wenn die rechtlich unterliegen, ist ZFS wieder weg). Ich werde definitiv btrfs verwenden ... ;)
    Für den Link bin ich dir sehr dankbar, endlich mal einen ordentlichen 90 Minuten-Rundgang durchs ZFS ... :D

  • Ich würde ZFS überall nutzen. Auf klein wie groß. DA es das einzige Filesystem ist womit ich die Daten auch verwalten kann. Kann ich bei irgendeinem System überhaupt irgendwie meine Daten logisch organisieren? Gerade das finde ich einfach nur super.

  • Ich würde ZFS überall nutzen. Auf klein wie groß. DA es das einzige Filesystem ist womit ich die Daten auch verwalten kann. Kann ich bei irgendeinem System überhaupt irgendwie meine Daten logisch organisieren? Gerade das finde ich einfach nur super.

    Das klingt mir jetzt zu abstrakt. Gib doch mal ein konkretes Beispiel ...

  • Ich hatte auf meinem Fileserver folgende Volumes

    /tank/ < der gesammte Speicher
    /tank/backup/ < Backups anderer Geräte
    /tank/user/ < Benutzerdaten
    /tank/media/ < Medien


    Wenn ich jetzt ein Backup ( bei ZFS sind Backups einfach genial gelöst ) machen wollte konnte ich nur die Benutzerverzeichnisse /tank/user einschließen und konnte so die Verschiedenen Anwendungsfälle sauber trennen.

    Ich halte einfach alle Dateisysteme für SChlagenwasser. Es hilft dir solange alles läuft, und selbst dabei helfen sie dir kaum. Bei ZFS hast du durch die einfachen Befehle zfs und zpool direkt passende Verwaltungstools für alle Anwendungsfälle. Es arbeitet direkt mit den Smartwerten zusammen. ZFS ist eben ein gesamtkonzept und nistet sich tief ein.

    Die Lizenzprobleme mit Ubuntu + ZFS sollten nicht dei nProblem sein.

  • Aber warum jetz ein ZFS gegenüber einem Raid mit Refs oder Ntfs oder weiss der Geier was besser sein soll, hast immer noch nicht erklärt, das Beispiel mit dem Backup kann ich ebenso machen, Schattenkopien löst du wie, ein konkretes Beispiel wäre mal interessanr, so oberflächliche Aussagen bringens nicht wirklich.....


    Gesendet von meinem iPad mit Tapatalk

  • Aber warum jetz ein ZFS gegenüber einem Raid mit Refs oder Ntfs oder weiss der Geier was besser sein soll, hast immer noch nicht erklärt, das Beispiel mit dem Backup kann ich ebenso machen, Schattenkopien löst du wie, ein konkretes Beispiel wäre mal interessanr, so oberflächliche Aussagen bringens nicht wirklich.....


    Gesendet von meinem iPad mit Tapatalk

    ZFS hat halt wegen seiner vielen Features einen gewissen Hype-Status und den kann ich sogar verstehen. Ich selbst kann aber mit den wenigsten der ganzen Optionen was anfangen, für mich ist es wichtig, daß es selbstheilend ist, meine Storage-Größen mitmacht und daß ich es nativ in Linux drin habe. Und das mit den Backups ist auch alternativ lösbar, ganz bestimmt ...
    Da ich mit dem Tower ja komplett auf Kubuntu gehe (Ubuntu mit KDE) und ZFS aufgrund lizenzrechtlicher Probleme nicht im Linux-Kernel enthalten ist, ist mir bei so etwas essentiellem wie dem Dateisystem wichtig, daß ich es auch noch morgen habe. Wenn Ubuntu dann irgendwann seinen ZFS-Alleingang nicht mehr durchziehen darf oder evtl. das ZFS on Linux-Projekt eingestellt werden würde (kann alles passieren), steht man dumm da und kann dann nur noch Solaris oder FreeBSD & Co. nutzen.
    Von daher ist btrfs für mich einfach der beste Weg. Es ist offiziell im Linux-Kernel, es hat die meisten Features von ZFS (und es wird noch weiter programmiert) und es schluckt nicht wirklich viel RAM im Gegensatz zu ZFS.

    Soweit meine Gedankengänge dazu ...

  • Ich kann dir verraten, wie ich es gelöst habe. Direkt auf der HW läuft ESXI, darauf verschiedene VMs. Es gibt 2 40GB SSDs als Raid1 für OmniOS@Napp-IT. OmniOS bekommt auch alle Storagecontroller exklusiv per VT-d durchgereicht und stellt einen 500TB Pool zur Verfügung. Auf diesen Pool greift ESXI per NFS zu und legt darauf die Images für alle weiteren VMs ab.

    Performancehit liegt bei unter 5%, einziger Nachteil ist eine relativ lange gesamtrebootdauer, da OmniOS zuerst hochfahren muss bevor alles andere starten kann

    Vorteile: Skaliert besser, ich bin von der Hardware praktisch unabhängig und Zugriffe auf Daten gehen über den VMKernel mit deutlich mehr als 10Gbit, besser als bei physikalischer Trennung. Auch bieten mir die ZFS-Snapshots in Kombination mit ESXI Snaps eine super Backupmöglichkeit.

    ZFS kann auch dedup, allerdings solltest du dafür 1-4GB RAM /TB einplanen. Die Komprimierung hingegen ist extrem schnell (LZ4).

    Zu btrfs vs ZFS: der unterschied im RAM-Verbrauch ist ohne dedup gering, ZFS braucht selbst kaum RAM, nutzt aber allen verfügbaren aus um Daten vorzuhalten. Daher das leicht verfälschte Bild.


    Aber warum jetz ein ZFS gegenüber einem Raid mit Refs oder Ntfs oder weiss der Geier was besser sein soll, hast immer noch nicht erklärt, das Beispiel mit dem Backup kann ich ebenso machen, Schattenkopien löst du wie, ein konkretes Beispiel wäre mal interessanr, so oberflächliche Aussagen bringens nicht wirklich.....


    Gesendet von meinem iPad mit Tapatalk

    http://www.storage-insider.de/neun-gruende-d…echen-a-387721/

    Nicht der beste Artikel, aber ein grober Überblick.

  • @MaxRink: Vielen Dank für diesen Hinweis. Ich hatte das mit napp-IT und OmniOS vor geraumer Zeit mal gelesen aber nie wirklich als für mich geeignet eingestuft. Aber in Zusammenarbeit mit ESXi hat das echt was, ich werde mir das die Tage noch mal richtig durchlesen und neu bewerten ...
    Nachteil: Dann brauche ich eine separate Grafikkarte, die HDMI 2.0 beherrscht, ebenso wie HEVC und Audio-Bitstream. Und die muß der ESXi Server dann auch noch für VT-d akzeptieren ... Sonst kann ich Kodi und mein neues Heimkino-Equipment vergessen ...

    Schauen wir mal, was sich da so beim Lesen ergibt ... ;)

  • Aber warum jetz ein ZFS gegenüber einem Raid mit Refs oder Ntfs oder weiss der Geier was besser sein soll, hast immer noch nicht erklärt, das Beispiel mit dem Backup kann ich ebenso machen, Schattenkopien löst du wie, ein konkretes Beispiel wäre mal interessanr, so oberflächliche Aussagen bringens nicht wirklich.....


    Gesendet von meinem iPad mit Tapatalk

    Ich kann dir das nicht in einem SAtz erklären aber eine Schattenkopie unter Windows ist nicht das gleiche wie ein ZFS Backup. Das Dateisystem würde nur die Dateien Backupen welche sich seit dem ich das Eingegeben habe auch verändert haben. Das kann dir eine Schattenkopie nicht geben.

  • @MaxRink: Vielen Dank für diesen Hinweis. Ich hatte das mit napp-IT und OmniOS vor geraumer Zeit mal gelesen aber nie wirklich als für mich geeignet eingestuft. Aber in Zusammenarbeit mit ESXi hat das echt was, ich werde mir das die Tage noch mal richtig durchlesen und neu bewerten ...
    Nachteil: Dann brauche ich eine separate Grafikkarte, die HDMI 2.0 beherrscht, ebenso wie HEVC und Audio-Bitstream. Und die muß der ESXi Server dann auch noch für VT-d akzeptieren ... Sonst kann ich Kodi und mein neues Heimkino-Equipment vergessen ...

    Schauen wir mal, was sich da so beim Lesen ergibt ... ;)

    Wieso? ESXI kann alle PCI-devices durchreichen, auch die iGPU. VT-d klappt mit jeder CPU, nur die EFI Implementierung bei consumerboards hapert. Allerdings solltest du eh unabhängig vom FS ECC-Ram einsetzen, die entsprechenden Boards haben da in der Regel keine Probleme.


    Um den Chefentwickler von ZFS zu zitieren:

    Zitat von Matthew Ahrens

    I would simply say: if you love your data, use ECC RAM. Additionally, use a filesystem that checksums your data, such as ZFS.

    Edit:
    http://www.napp-it.org/doc/downloads/napp-in-one.pdf

    FreeNas ginge zwar auch, allerdings macht FreeNAS in einer VM unter Umständen Probleme. OmniOS hat da 0 Probleme.


    Edit 2: im Endeffekt driftest du mit der ESXI-Lösung schon sehr stark in Richtung SAN. Wo solche Datenmengen IMHO ja auch hingehören.

  • Wieso? ESXI kann alle PCI-devices durchreichen, auch die iGPU. VT-d klappt mit jeder CPU, nur die EFI Implementierung bei consumerboards hapert. Allerdings solltest du eh unabhängig vom FS ECC-Ram einsetzen, die entsprechenden Boards haben da in der Regel keine Probleme.

    Um den Chefentwickler von ZFS zu zitieren:

    Das mit ECC-RAM kommt bei der nächsten Revision der PC-Komponenten (4-5 Jahre), jetzt habe ich die jetzigen Komponenten ja bereits im Haus. Und die können kein ECC-RAM. ;)
    Ich lese mir mal das Konzept genauer durch und dann sehen wir weiter ...

  • Mehr ist dazu echt nicht zu sagen ;)

    Ihr braucht mir nicht weiter klarzumachen, daß ZFS das absolut tollste sei ... :) Es kommt für mich letzten Endes auch darauf an, ob ich denn einen Nutzen im Gegensatz zu dem im Kernel vorhandenen btrfs habe. Und damit meine ich einen realistischen Vorteil, also etwas was ich auch einsetzen werde ...

  • Rein Prinzipiell ist ZFS als stabiler anzusehen, auch ist unter Solaris NFS und SMB halt im Kernelspace und höllisch schnell out-of-the-box.
    Auch ist das Verwalten von größeren Storagespaces unter ZFS halt kinderleicht.


    Rein Grundsätzlich bleibt zu sagen, dass du weder von ZFS nach von BTRFS wirklich Vorteile ohne ECC-Ram ziehst, wichtige Features wie Bit Rod Protection brauchen bei beiden FS ECC-Ram.


    Rein Grundsätzlich läuft es darauf hinaus, dass in btrfs ein paar kleine Designschnitzer stecken (nichts gravierendes) und dass viele Funktionen von btrfs noch nicht als stable genug gelten. Das FS an sich allerdings schon.

    Edit: um das Linux kernel wiki zu zitieren

    Zitat von wiki

    Is btrfs stable?

    Short answer: Maybe.
    Long answer: Nobody is going to magically stick a label on the btrfs code and say "yes, this is now stable and bug-free". Different people have different concepts of stability: a home user who wants to keep their ripped CDs on it will have a different requirement for stability than a large financial institution running their trading system on it. If you are concerned about stability in commercial production use, you should test btrfs on a testbed system under production workloads to see if it will do what you want of it. In any case, you should join the mailing list (and hang out in IRC) and read through problem reports and follow them to their conclusion to give yourself a good idea of the types of issues that come up, and the degree to which they can be dealt with. Whatever you do, we recommend keeping good, tested, off-system (and off-site) backups.
    Pragmatic answer: (2012-12-19) Many of the developers and testers run btrfs as their primary filesystem for day-to-day usage, or with various forms of real data. With reliable hardware and up-to-date kernels, we see very few unrecoverable problems showing up. As always, keep backups, test them, and be prepared to use them.

  • nein, nur muss dann halt scrubbing bei zfs deaktiviert werden. Back to ext auf keinen Fall, Sachen wie der integrierte Volumemanager, snapshots etc. sind ja weiterhin funktionsfähig. Ohne ECC-Ram verliert man halt jeden Vorteil der beiden FS in Sachen Datenintegrität.

    Und wirklich viel teurer ist ECC-Ram nicht, es ist schlicht Intels Produktpolitik die das ganze verkompliziert.
    Auch sind Speicherfehler viel häufiger als von den meisten angenommen.
    http://www.heise.de/newsticker/mel…men-828883.html
    Und aktuelle DRAM-Zellen sind kleiner als damals, neigen also zu mehr Fehlern.

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!