Indexerstellung und Scrapen dauert extram lange

  • Hallo liebe Kodinerds,

    nach meinem nun mehr 4 Jahre andauernden "Leidensweg" mit Kodi auf AFTV suche ich nun Hilfe beu euch Experten!

    Ich betreibe aktuell Kodi 19.4 auf 1x Fire TV Stick 4K, 1x Fire TV Stick Gen. 3, 1x Fire TV Box Gen. 2, 1x Intel NUC i5.
    Meine ca. 2500 Filme liegen auf 2x HP ProLiant Server, auf denen ich OpenMediaVault 5.6 betreibe. Beide Server haben je einen Disk-Pool bestehend aus 4x6TB. Die Dateifreigabe läuft über SMB/CIFS (für Windows Clients) und zusätzlich über NFS (für AFTV).
    Beide Disk-Pools habe ich in einer gemeinsamen Medienquelle in Kodi zusammengefasst. Filmkollektionen befinden sich in separaten Ordnern im Stammberzeichnis, einzelne Filme befinden sich direkt im Stammverzeichnis.
    Ich verwende das PlugIn "Library Auto Update" und scanne die Medienquelle bei jedem Neustart nach neuen Inhalten und verwende "Universal Movie Scraper" zum Scrapen der Filme.

    Nun ist es so, das alle meine AFTV Geräte mit diesem Setup offenbar heillos überfordert sind, der interne Speicher fast vollständig aufgebraucht ist und das Aufnehmen neuer Filme in die Datenbank und das Scrapen der Filme bei jedem Neustart
    gut und gerne 2-3 Stunden dauert!

    Für Tipps und Ratschläge, wie ich dieses Problem lindern, mein Setup optimieren oder den Scrape-Vorgang beschleunigen kann, wäre ich euch sehr dankbar!

    Viele Grüße aus dem Rheinland!

  • Moin,

    warum hast du keine zentrale MySQL-Datenbank auf einem der beiden Server? Anschließend scrapst du nur noch auf dem leistungsstärksten und per LAN verbundenem Client (sicher der Intel NUC).
    Die anderen bekommen die Infos über die [definition=11,0][definition='2','0']as.xml[/definition][/definition].
    Selbst die Thumbs kann man auf den Server auslagern und per Pathsubstitution den Clients mitgeben.
    Spart Speicherplatz auf den Clients.

    Ich verwende das PlugIn "Library Auto Update" und scanne die Medienquelle bei jedem Neustart nach neuen Inhalten und verwende "Universal Movie Scraper" zum Scrapen der Filme.

    Warum lässt du jeden Client bei jedem Neustart scrapen?
    Ändert sich wirklich ständig der Inhalt deiner Freigaben?

    Kurz zu meinem Setup:
    HP Proliant Server mit Windows Server 2012R2 und MySQL-Server.
    Reichlich Windows-Clients, Shield 2019 pro, FireTV (2 Grundig TVs und ein Cube), LibreELEC auf S905X-Boxen als Clients.

    Bei mir sind auch noch TV-Karten im Server verbaut und der verteilt das TV-Signal an alle Clients.

  • Vielen Dank für die schnellen Antworten!

    warum hast du keine zentrale MySQL-Datenbank auf einem der beiden Server? Anschließend scrapst du nur noch auf dem leistungsstärksten und per LAN verbundenem Client (sicher der Intel NUC).
    Die anderen bekommen die Infos über die [definition=11,0][definition='2','0']as.xml[/definition][/definition].

    Würde ich, wenn ich wüsste wie! :) Meine Fähigkeiten sind da leider begrenzt und von SQL habe ich keine Ahnung. Gibt es vielleicht ein Kodi-Plugin, was einem diese Arbeit abnimmt oder zu mindest erleichtert?

    Selbst die Thumbs kann man auf den Server auslagern und per Pathsubstitution den Clients mitgeben

    Das klingt interessant aber auch dazu fehlt mir einfach eine Anleitung.

    Nutz eine Lösung wie Emby, die macht einiges einfacher.

    Vielen Dank für den Hinweis. Ich werde mich mal damit befassen.

  • Würde ich, wenn ich wüsste wie! Meine Fähigkeiten sind da leider begrenzt und von SQL habe ich keine Ahnung. Gibt es vielleicht ein Kodi-Plugin, was einem diese Arbeit abnimmt oder zu mindest erleichtert?

    Du hast auf deinen beiden HP-Geräten OMV 5.6. Das muss ja auch jemand installiert und eingerichtet haben.
    Hatte vor vielen Jahren mal kurz mit OMV zu tun. Bin mir recht sicher, dass du den MYSQL-Server direkt in OMV per Plugin nutzen kannst.
    Für die Einrichtung und Nutzung mit Kodi findets du sicher was im WWW.

    Der EInstieg in Kodi mit MySQL-Server ist das Kodi-Wiki:

    Kodi MySQL

    Obwohl dort steht, dass es ein erweitertes (kompliziertes) und experimentelles Feature ist, ist es gar nicht wirklich schwierig einzurichten.
    EInmal eingerichtet, rennt dieser MySQL-Server über Jahre ohne Eingriffe.
    Den Clients gibst du eine einmal eingerichtete [definition='2','1']advancedsettings[/definition].xml mit.

    Das läuft bei mir seit 10 Jahren und ich habe eigentlich nur mal den einen oder anderen Client ersetzt (mittlerweile wohl eher alle) und Medien zu den Freigaben hinzugefügt.

    PS: Für die Nutzung von Kodi mit MySQL-Server sind keine weiteren Gebühren und nur ein bisschen Gehirnschmalz nötig.

  • Zu Erwähnen ist noch das alle Clients zumindest die gleiche Kodi Major Version haben müssen. Das gibt es halt beim Updaten zu beachten.

    Und es stimmt, wenn es läuft dann läuft es. In den letzten Monaten haben sich aber auch die Thread hier im Forum gehäuft wo es halt nicht trivial war das ganze zum laufen zu kriegen.
    Des Weiteren bringen Lösungen wie Emby dann auch noch andere Features wie Transcoding etc. mit. Das spielt natürlich nur eine Rolle wenn man es auch wirklich braucht.

  • Vielen Dank für eure Hilfe!

    Ich habe mich recht lange in den TinyMediaManager eingearbeitet und habe damit ein recht gutes und fast zufriedenstellendes Ergebnis erzielt!

    Den leistungsstärksten PC habe ich genutzt um alle ca.2500 korrekt zu benennen, zu scrapen und das Artwork auf meine OMV-Server zu laden,- was eine irrwitzige Arbeit war!

    Für Filme klappt das sehr gut, für Serien nur mäßig gut aber für Film-Kollektionen klappt es leider überhaupt nicht!
    Film-Kollektionen werden in Kodi nur als Ordner ohne Artwork angezeigt, obwohl die entsprechende Option in Kodi aktiviert ist (Einstellungen->Medien->Videos->Filmkollektionen anzeigen)
    und sämtlichen Kollektionen im TinyMediaManager ein Artwork hinterlegt ist und die Bilder auch in einem gemeinsamen Ordner mit Unterordnern für jede Kollektion auf einem der Server abgelegt sind.
    Für Film-Kollektionen hat das Scrapen früher mit "Universal Movie Scraper" eindeutig besser funktioniert!

    Gibt es vielleicht eine Möglichkeit beim Scrapen eine Art "Mischbetrieb" zu realisieren? Also Filme über "Local Information only" und Kollektionen weiterhin über "Universal Movie Scraper"?,
    da ich den Eindruck habe, dass Kodi mit den von TMM erstellten Kollektionen nicht klar kommt.

    Hat da vielleicht noch jemand eine gute Idee?
    Vielen lieben Dank schon mal für eure Mühe!

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!