extra Dateien nach separat DB-Export wegsichern

  • Ich habe am Wochenende mal meine kompletten XBMC Datenbanken neu eingelesen. Ausschlaggebend war, dass mein Thumbnails Ordner von XBMC über 20 GB groß war und der Database Ordner über 300 MB. Was beides viel zu hohe Werte sind ..

    Da ich in mühsamer ewig langer Arbeit meine komplette MP3 Sammlung mit entsprechendem TAG, Cover usw. ausgestattet habe, war das wieder Einlesen und Erstellen der XBMC Musik Datenbank kein Problem. Kann daher jedem nur empfehlen seine MP3 Sammlung auch komplett zu Tagen mit Cover usw.Es ist zwar einmalig viel Arbeit aber es lohnt sich auf dauer.

    Für die Video Datenbank wollte ich diesmal die Version mit Videodatenbank export -> Separat ausprobieren. Beim letzten mal hatte ich Videodatenbank export -> Einzeln genommen. Dabei wird eine riesige XML Datei erstellt mit allen Infos aus der Video Datenbank. Nur leider funktionierte das Einlesen im nachhinein nicht mehr so ganz. Am Ende war ich mehrere Tage damit beschäftigt den Rest wieder per Hand nachzuziehen *würg*.

    Bei einem Videodatenbank export -> Separat werden zu den jeweiligen Filmen, diese müssen nicht in einzelnen Ordnern liegen, die drei Dateien FILMTITEL-fanart.jpg, FILMTITEL.nfo und FILMTITEL.tbn geschrieben. Die Datei FILMTITEL-fanart.jpg enthält das aktuelle Fanart des Films. Die Datei FILMTITEL.nfo enthält alle Filminfos wie Handlung, Länge usw.
    Bei den Serien werden neben diesen Dateien noch einige weiter geschrieben allerdings will ich auf die Serien hier nicht weiter im Detail eingehen.

    Nach dem ersten Export habe ich die mit die exportierten Dateien genauer angesehen und dabei einige FILMTITEL-fanart.jpg vermisst. Bei drei Filmen waren die exportierten Dateien auch eindeutig defekt. Bei dem Film Speed hießen die Dateien Spee.nfo und Spee.tbn. Nach dem löschen der fehlerhaften Dateien und einem erneutem Export war alles soweit ok.
    Ich löschte also die beiden Ordner Thumbnails und Database, welche ich vorher gesichert hatte. Im nächsten Schritt begann ich die Videodatenbank wieder zu importieren. Das startete ich kurz bevor ich ins Bett ging kann daher nicht genau sagen wann es fertig war. Aber am nächsten Morgen war es durchgelaufen und zu meiner positiven Überraschung alle Filme ohne Probleme in der Datenbank :thumbup:
    Aber einige Serien waren noch nicht in der DB. Nach ein wenig Recherche war klar, dass die Serien, welche einen zu sehr abweichenden SerienOrdnernamen zur eigentlichen Serienbezeichnung hatten wohl nicht gefunden werden konnten und daher alle noch fehlen. z.B. Zählte dazu Dr. House der SerienOrdner heißt bei mir einfach nur House. Order auch 24 dort heißt der SerienOrdner Twenty.Four. Diese Serien musste ich dann nochmal manuell nach Scrapen.
    Bevor ich mittags das Haus verließ startete ich noch das einlesen der Musik DB. Was auch bis zu meinem Heimkommen in der Nacht ohne Probleme erledigt war.

    Alles in allem hatte nun mein Thumbnails Ordner nur noch ca. 4,5 GB und der Database Ordner war auf ca. 80 MB geschrumpft. Da muss wohl vorher so einiges an Mist drin rumgelegen haben. Der aktuelle Stand beträgt 6,5 GB beim Thumbnails Ordner und weiterhin ca. 80 MB bei meinem Database Ordner. Schon krass wie schnell der Thumbnails Ordner schon wieder gewachsen ist. Muss ich mal genauer im Auge behalten ...

    Ob XBMC insgesamt dadurch aber nun auch wirklich schnell, besser oder sonst wie beeinflusst wird weiß ich nicht. Zumindest ist mir da noch nicht wirklich aufgefallen. Allerdings hat mich auch vorher nicht wirklich etwas gestört :D

    Soweit schon mal viel weniger Aufwand als beim letzten mal. Die meiste Arbeit hat XBMC selbstständig ohne Aufsicht erledigt :thumbup: Nur leider hatte ich nun die ganzen extra Dateien bei den Filmen rumliegen. Da ich viele Filme in einem Ordner habe finde ich es sehr sehr unübersichtlich und störend wenn da noch so viele unnötige Dateien rumliegen. (Wen das nicht stört kann hier eigentlich mit lesen aufhören)
    Klar der erste Gedanke war einfach löschen den Mist. Aber was mache ich dann wenn ich doch mal durch einen dummen Zufall die XBMC Datenbank verliere. Alles nochmal neu mühsam online scrapen :?: Neeeeeeee muss nicht sein.
    Also aufheben wollte ich die Dateien für den Notfall schon nur eben nicht unbedingt direkt bei den Filmen im selben Ordner.
    Da die Filme bei mir in mehreren verschiedenen Ordnern liegen, ca 30 Stück. War ich einfach zu Faul das manuell zu verschieben und dachte mir das muss doch auch per Script gehen. Viel Erfahrung hatte ich bisher nicht mit Batchscripten, aber naja ohne so ein Projekt lernt man es nie ...
    Die benötigten Befehle hatte ich recht schnell online zusammen gesucht und nach einigen Stunden konnte ich alle Dateien in einen Backupordner auf einer anderen Festplatte verschieben. *SUPER* War stolz wie Oscar das das so schnell ging.

    Aber dann fiel mir ein MIST und wie bekomme ich jetzt die ganzen Dateien wieder zurück wenn ich sie mal für einen Videodatenbank import brauche ?
    Also noch ein Script musste her zum Import der Dateien. Nur woher sollte das Script jetzt wissen, welche Datei aus welchem der 30 Ordner kam :cursing: So einfach wie das erste Script würde es wohl nicht werden. Gefühlte 100.000 Gehirnwindungen und drei Tassen Kaffee später kam ich auf die Idee mir beim ersten Script zu merken was ich woher geholt habe. Gedacht getan also eine Logdatei mit dem ExportScript erstellt wo genau diese Info drin steht.
    Zwischenzeitlich ist mir mal eingefallen, dass Windows eine Dateibeschränkung von 10.000 Dateien pro Ordner hat und da ich mir nicht sicher bin wie stark meine Videosammlung noch ansteigt habe ich für jede Dateiart einen eigenen Backupordner angelegt. Also vier Stück nfo, tbn, fanart und [definition='1','0']log[/definition] in welche die jeweiligen Dateien geschrieben werden.
    Das ImportScript holt sich nun also die Infos welche Datei es wohin kopieren soll aus der Logdatei. Aber welche Logdatei ist die richtige ? Denn um nichts zu vergessen, aber auch die Übersicht und Einfachheit zu behalten wird pro gelungenem Export über das Script eine Logdatei angelegt. Da ich davon ausgehe, dass man immer den letzten Export Importieren will, sucht sich das ImportScript immer die aktuellste ExportLogDatei und verarbeitet diese. Damit man hinterher auch sieht, was das ImportScript genau getrieben hat schreibt auch dieses eine Logdatei. Wusste ja jetzt schon wie es geht und im Quellcode recyceln war ich schon immer gut 8)

    Falls es jemand mal bei sich testen will VORSICHT es läuft nur unter WINDOWS. Aber noch viel WICHTIGER niemals aber auch wirklich niemals die Variable datadir ungesetzt lassen. Ansonsten werden alle *.nfo und *.tbn Dateien von dem Rechner auf dem ihr das ExportScript ausführt in die Backupfolder verschoben. Ich weiß wovon ich da rede mir ist es passiert :cursing: :thumbdown: :cursing:

    Ansonsten müsst ihr noch einige Variablen innerhalb der Dateien setzen:
    WICHTIG: Die Batchscripte erwarten bei das alle angegebenen Ordner als Netzwerkfreigabe angegeben werden. Eine Version die nur lokale Festplatten akzeptiert habe ich hier auch noch rumliegen. An einer Version die beides kann und entsprechend das richtige macht arbeite ich derzeit noch. Da bei mir aber eh alles im Netzwerk liegt habe ich daran am Anfang nicht gedacht.

    ExportScript:
    backupdirfanart Ordner für die *-fanart.jpg Dateien

    backupdirtbn Ordner für die *.tbn Dateien

    backupdirnfo Ordner für die *.nfo Dateien

    logdir Ordner für die Logs

    datadir Quellordner indem die Filme liegen. Hier werden alle Unterordner mit durchsucht. Also reicht es den einen Wurzelordner anzugeben.

    ImportScript:

    backupdirfanart Ordner für die *-fanart.jpg Dateien

    backupdirtbn Ordner für die *.tbn Dateien

    backupdirnfo Ordner für die *.nfo Dateien

    logdir Ordner für die Logs

    Ohne das Anpassen dieser Variablen an eure Ordnerstruktur wird das Batchscript bei euch nicht wie vorgesehen lauffähig sein. Alle Ordner müssen Bereits existieren das Batchscript legt fehlende Ordner nicht an. Sondern läuft in einen Fehler wenn einer der Ordner fehlt.

    Ich weiß der Quellcode ist auf keinen Fall optimiert. Aber für den ersten Wurf mit so komplexen Batchscripten bin ich schon froh das es soweit läuft :thumbup: Vor allem das ImportScript ist noch naja sagen wir mal suboptimal vom Programmierstil her. Aber es ist eben kein Java, C C++ oder ABAP wo ich mich auskenne und es auch, zumindest so wie ich das sehe, ganz andere Möglichkeiten bestehen.

    PS: Bin ja mal gespannt wer sagt "wieso schreibst du sowas selbst das kann doch das Programm XYZ auch". Zum einen kenne ich Programm XYZ nicht und zum anderen hat es mir auch Spaß gemacht mich mal etwas in Batchscripte einzuarbeiten.

  • Danke, schöner Beitrag!

    Aber, eine Frage habe ich dann doch noch:
    Wenn Du schon bei der MP3-Sammlung zu der Erkenntnis kommst, dass es ein Muss ist, die NFO-Daten einzupflegen,
    warum schafft es diese Erkenntnis nicht bis zu den Filmen und Serien?

    Normalerweise sollte es ja so sein:
    Wenn's arg kommt, gibt's einen Kahlschlag, DB auf Null setzen, Quellen definieren und suchen lassen.
    Nach gewissen Zeit sind alle Daten korrekt im XBMC.
    Oder man nutzt eine zentrale Datenbank auf einem Server.


    Grüsse.

  • nfo dateien und mp3 ? verstehe ich jetzt nicht so wirklich ich habe nich eine nfo datei bei den mp3s liegen. dort habe ich alles auch cover in den mp3 tag geschrieben damit eben keine extra dateien in den mp3 ordnern rum liegen. so etwas geht leider bei filmen nicht zumindest ist mir keine solche technik bekannt. wenn so etwws geht sag mir wie es heißt und mit welchem program es einigermasen automatisch geht und ich nutze es. wäre mir am liebsten.


    die erkentniss das es mit nfo dateien bei filmen besser ist für ein revocery habe ich ja gemacht. nur stören mich die ganzen nfo dateien in den filmordnern einfach extrem. darum schreibe ich mir die weg und hole sie nur bei bedarf zurück.
    für den reinen xbmc betrieb sind die nfo dateien sicher nicht störend man sieht sie ja nicht. aber ich bin auch sehr oft direkt auf dem server in den ordnern unterwegs und da ist es einfach nur nervig die 3 fache menge an daten rumliegen zu haben. finde ich einfach super unübersichtlich.

    Amazon Fire TV 4k | KODI 17.X
    HTPC: ASUS F2A85-M LE | A6-5400K | 4GB DDR3-1866 | 128GB SSD | Windows 10 64 bit | KODI 17.X
    AVR: Onkyo TX-NR509 5.1 + Teufel Consono 35
    TV: Samsung UE55ES6300 55"
    FB: Harmony 785

    Wo finde ich das xbmc.log File?

    Wer einen Rechtschreibfehler findet darf ihn behalten !

  • wie oben bereits geschrieben hatte ich bei der Einzeln Methode das letzte mal nur Probleme beim wieder einlesen. Da hat so einiges gefehlt und das alles wieder hinzubiegen hat einfach nur ewig gedauert. Erstmal finden welche filme alle fehlen dann wieder neu online scrapen usw ...

    Amazon Fire TV 4k | KODI 17.X
    HTPC: ASUS F2A85-M LE | A6-5400K | 4GB DDR3-1866 | 128GB SSD | Windows 10 64 bit | KODI 17.X
    AVR: Onkyo TX-NR509 5.1 + Teufel Consono 35
    TV: Samsung UE55ES6300 55"
    FB: Harmony 785

    Wo finde ich das xbmc.log File?

    Wer einen Rechtschreibfehler findet darf ihn behalten !

  • so etwas geht leider bei filmen nicht zumindest ist mir keine solche technik bekannt. wenn so etwws geht sag mir wie es heißt und mit welchem program es einigermasen automatisch geht und ich nutze es. wäre mir am liebsten.


    In den Matroska Container kann man ja alles reinpacken was man will, also auch Cover, Fanart etc., leider kann XBMC damit (noch?) nichts anfangen (außer Fonts für Untertitel, die werden verwendet). :(
    Das wäre vielleicht mal ein Feature Request wert, falls es das noch nicht gibt. :)

  • ein oder pro film im normalen ordnerbereich kommt für mich nicht in frage viel zu unübersichtlich und unpraktikabel was soll ich mit den ganzen ordnern ? ist meiner meinung nach ein mehraufwand den keiner braucht, ich zumindest absulut nicht.

    @ bs das wäre echt super wenn xbmc es dort rauslesen könnte. gibt es denn andere programme die das schon heute unterstützen ? das gibt es bei allen gängigen formatn? avi, mpg, mkv, iso ? wenn ja wäre es sicher ein feature request wert. Wäre super wenn das gehen würde. Dan müsste man die ganzen zusatzfiles nicht mehr im ordner rumliegen haben beim import bzw scrapen.

    Amazon Fire TV 4k | KODI 17.X
    HTPC: ASUS F2A85-M LE | A6-5400K | 4GB DDR3-1866 | 128GB SSD | Windows 10 64 bit | KODI 17.X
    AVR: Onkyo TX-NR509 5.1 + Teufel Consono 35
    TV: Samsung UE55ES6300 55"
    FB: Harmony 785

    Wo finde ich das xbmc.log File?

    Wer einen Rechtschreibfehler findet darf ihn behalten !

  • Bei Matroska (MKV) geht das wie ich schon erwähnt habe, bei ISO Images natürlich auch, da kann man ja reinpacken was man will, bei den anderen beiden Containerformaten geht es nicht. Ich kenne leider auch kein Programm das solche Infos aus den Containern verwendet, aber unter Ubuntu wird glaube ich das Dateisymbol durch das Cover ersetzt im Dateibrowser.

  • ich würde gerne den DB export so automatisieren, dass er alle X Tage die NFO Fanart und TBN Datei exportiert und im Anschluss mein Batchscript aufruft welches die Daten verschiebt.
    Jemand ne Ahnung wie und ob das möglich ist ?

    Amazon Fire TV 4k | KODI 17.X
    HTPC: ASUS F2A85-M LE | A6-5400K | 4GB DDR3-1866 | 128GB SSD | Windows 10 64 bit | KODI 17.X
    AVR: Onkyo TX-NR509 5.1 + Teufel Consono 35
    TV: Samsung UE55ES6300 55"
    FB: Harmony 785

    Wo finde ich das xbmc.log File?

    Wer einen Rechtschreibfehler findet darf ihn behalten !

  • Zitat

    ich würde gerne den DB export so automatisieren, dass er alle X Tage die NFO Fanart und TBN Datei exportiert und im Anschluss mein Batchscript aufruft welches die Daten verschiebt.
    Jemand ne Ahnung wie und ob das möglich ist ?


    Sollte gehen...service Addon ist da das zauberwort...ich schalt gleich mals notebook an

    Sent from my HTC Sensation XE using Tapatalk

  • ne dazu sind es viel zu viele Dateien. Einmal die Woche würde voll und ganz ausreichen.

    PS: Ich starte jeden morgen um 6:00 den HTPC automatisch neu und lasse ihn um 6:30 automatisch in den Energiesparmodus gehen. In dieses Zeitfenster würde ich das dann einmal die Woche gerne legen. Habe dort auch schon den Virenscan einmal die Woche hingelegt und einige andere Tasks wie Win7 autoupdate usw.

    Amazon Fire TV 4k | KODI 17.X
    HTPC: ASUS F2A85-M LE | A6-5400K | 4GB DDR3-1866 | 128GB SSD | Windows 10 64 bit | KODI 17.X
    AVR: Onkyo TX-NR509 5.1 + Teufel Consono 35
    TV: Samsung UE55ES6300 55"
    FB: Harmony 785

    Wo finde ich das xbmc.log File?

    Wer einen Rechtschreibfehler findet darf ihn behalten !

  • Hi

    vielen Dank für deinen interessanten Post.
    Möchte eigentlich auch schon lange das gesamte XBMC, also inkl Userdata, bereinigen.
    Hoffe es ist ok, wenn ich diesen Thread meutere :rolleyes:

    Zuerst hab ich mal meine MusicDB und den riesigen Thumbnail Ordner verschoben. Werden dann gelöscht, wenn alles wieder i.O ist.
    Nun bin ich dran, meine MusicDB neu einzulesen.
    Leider hat das nicht ganz geklappt wie gewünscht, weshalb ich einige Fragen habe.

    - DB Exportieren (Seperat)
    Da ich diverse Sampler sowie ChilloutCDs habe, hab ich meine Ordnerstruktur unterteilt.
    Music
    - Full Album (Für jeden Interpreten ein Ordner und darunter pro Album 1 Ordner)
    - Soundtrack
    - Chillout
    - Sampler
    Wie läuft das dann beim Exportieren zb der Artisten-Infos? Bei den Samplern/Chillouts gibts ja diverse Interpreten usw.
    Oder werden diese einfach nicht exportiert?

    - Albumcover
    Woher wird das Coverbild nun geholt, wenn ich die DB neu einlese?
    Nach dem neueinlesen habe ich diverse Covers, welche sehr schlechte Qualität haben.

    Beim Scraper Allmusic habe ich eingestellt, dass er die Cover von Allmusic und LastFM holen soll.
    Weiter sind in den meisten Albenorder eine folder.jpg hinterlegt und in den mp3tags ist das Cover auch drinn.
    Es wird aber anscheinend nicht das folder.jpg geholt, da dies viel bessere Quali hat.
    Ein neueinlesen hat nichts gebracht. Tipp

    - Albumcover 2
    Diverse Albencover, welche vorher i.O waren, sind nun schwarz/weiss. (sieht aus wie ein Barcode)
    Hat diesen Phänomen auch jemand? Verwende das nightly vom 10.12.2011
    Meine Vermutung ist ein Zusammenhang mit *.png, welches ich evt in die mp3tags übernommen habe.
    Muss das aber noch testen...

    - Plugin Artwork Organizer
    Verwendet jemand dieses Plugin.
    Damit lassen sich ja schön die Bilder usw an einem anderen Ort backupen.
    Nun habe ich aber diverse AlbenThumbs bzw ArtistFanart im Format .tbn oder .dds (zb KoЯn - Greatest Hits Vol. 1.dds)
    Wo müsste ich diese aber hinkopieren, wenn ich diese wieder verwenden möchte.
    Backup bringt ja nicht viel, wenn ich dann nicht weiss wie ich sie wieder in die DB reinkriege :D

    Fragen über Fragen
    Möchte es diesmal eifach sauber einrichten.
    Damit das exportieren und neueinlesen aus den Metadaten ohne Probleme und weiteres dazutun funktioniert.

    Viele Grüsse
    hagi

  • @ MM will ja nicht drängeln aber was macht das Add-on :)

    Musik DB habe ich alle Infos in den MusikTag geschrieben. Und dann die infos aus den Tags wieder eingelesen. Die Images vom Artwork Organizer und Cover2 müssen direkt bei den Alben bzw Interpreten liegen. Kommt etwas darauf an wie du deine Ordnerstruktur organisiert hast. Ich habe XBMC die Musik Fanarts wieder neu runterladen lassen. Hatte daran eh nie etwas verändert und auch nicht daran gedacht das ich diese auch Backupen muss/kann :D
    Wäre aber eine gute Idee das auch noch mit aufzunehmen. Muss ich mir die Tage mal anschauen wenn ich die Zeit finde. :tree:
    Da ich alle infos in den MP3Tags stehen habe hatte ich keinen export der Musik DB gemacht. Die Infos einmal zu haben reicht ja :D
    Aber mit dem Artwork Organizer habe ich mir auch alle Fanarts von Musik usw in einen Ordner geladen. Aber nur weil ich diese als Background für den Musikbereich von XBMC verwende.

    Amazon Fire TV 4k | KODI 17.X
    HTPC: ASUS F2A85-M LE | A6-5400K | 4GB DDR3-1866 | 128GB SSD | Windows 10 64 bit | KODI 17.X
    AVR: Onkyo TX-NR509 5.1 + Teufel Consono 35
    TV: Samsung UE55ES6300 55"
    FB: Harmony 785

    Wo finde ich das xbmc.log File?

    Wer einen Rechtschreibfehler findet darf ihn behalten !

  • @ MM will ja nicht drängeln aber was macht das Add-on


    Probleme... ich krieg die entsprechenden Parameter nicht übergeben...
    ich poste hier den Quelltext gleich mal, dann kann ja mal wer mitgucken...

    aber einfach nur alles direkt auswerfen geht...aber overwrite, thumbexport und so als option geht nicht...


  • Der Text funktioniert jetzt ohne alles, einfach die .py aufrufen...aber der auskommentierte teil mit "thumbs", "overwrite" und so, will nicht...

    und hier noch die settings.xml:

    mm

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!