Hardware: Schnittrechner, Grafikkarten, Schnittkarten, Mischer und mehr Forum



Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?



Die Hardware ist tot, es lebe die Hardware. Fragen zu Optimierung von Schnittsystemen, den idealen Komponenten sowie Verkabelungen, RAID...
Antworten
Karem
Beiträge: 29

Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Karem »

Liebes Forum

Diese Woche kommt meine Sony Z150, mit der ich ein paar Schulungsvideos aufzeichnen werde. Den Workflow habe ich mir so vorgestellt:

Ich arbeite mit einem MacbookPro Frühjahr 2015.

1. Das aktuelle Projekt kommt auf meine Samsung T1 mit 1000 GB Speicherkapazität.

2. Fertige Projekte kommen auf ein NAS, wo die Festplatten im Raid1 gespiegelt werden. Ziel: Sicheres aufbewahren der Videos für die nächsten Jahre.

3. Wenn die Festplatten im Nas voll sind, kommt eine neue rein und ich starte wieder bei Punkt 1.

Macht dieser Workflow für euch Sinn? Sind die NAS von WD, z.B. My Cloud Mirror Gen2 gut dafür?
Oder sind die Festplatte heute so sicher, dass es kein NAS braucht?
Ist es intelligenter, mit einfachen externen Festplatten zu arbeiten?

Ich werde der einzige sein, der das NAS braucht und es solle es mir einfacher machen, als wenn ich ständig 2 einzelne Festplatten von Hand synchronisiere.

Oder gibt es da bessere Lösungen? Ich bin gespannt auf eure Weisheiten :)
herzliche Grüsse
Karem
Ich bin Unternehmer und Trainer aus Leidenschaft.
www.karemalbash.com



Jott
Beiträge: 21802

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Jott »

Time Machine. Eine günstige 5GB-USB-Platte bringt dich ziemlich weit und schützt dich effektiv vor Datenverlust.

Als "Endlager" für die Nachwelt (Masterfiles, Rohmaterial, Projektdaten) kannst du dich dann zwischen billigen USB-Platten (doppelt), Opticals (BD-XL 100 GB), LTO und Cloud entscheiden. Oder eine Kombi. Wurde alles schon bis zur Erschöpfung ausdiskutiert, naturbedingt ohne Ergebnis. Das Problem nimmt dir keiner ab, aber es gibt einen bunten Strauß von Lösungen. Ein Raid ist als Dauerlager untauglich (typisch: Controller gibt den Geist auf und tschüss) und gehört gar nicht auf die Liste.

Ein fcp x-Hinweis: du kannst und solltest vor der "Endlagerung" die Mediatheken aufräumen. Du brauchst dazu weder generierte Medien, noch die Render- oder Analysefiles. Der Rest ist dann klein, und zusammen mit ProRes-Masterfile und verwendetem Rohmaterial (falls du das aufheben willst) ist das Datenaufkommen durchaus überschaubar, irgendwo hin kopieren dauert nur Minuten. Die hast du immer.



Frank Glencairn
Beiträge: 22709

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Frank Glencairn »

Rein rechnerisch sind nackte 3TB Platten (unter 100 Euro) zur Endlagerung momentan der Sweetspot. Ich hab ne Docking Station, da steck ich die einfach rein. Die Station kann auch selbstständig Platte spielgeln, dazu braucht es dann nicht mal nen Rechner.

Raid halte ich für ne Geldverschwendung. Hatte in meinem Leben 4 RAID ausfälle - Rekonstruieren hat ewig gedauert, und am ende nicht funktioniert.

In der Zeit hätte ich die Daten 5 mal vom Backup zurückgespielt, und vor allem hätte ich sie nicht verloren.

Ich mach die Backups immer mit Hand, das hat den Vorteil, daß ich immer und überall auf die Daten zurückgreifen kann, ohne irgendne Software zu brauchen.

Um zu wissen was auf welcher Platte ist, nutze ich das kostenlose Cathy.



Karem
Beiträge: 29

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Karem »

oh das ist cool. Das klingt plausibel! Je einfacher desto einfacher :)

Was für Festplatten hast du und wie heisst diese Station?
Ich bin Unternehmer und Trainer aus Leidenschaft.
www.karemalbash.com



Karem
Beiträge: 29

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Karem »

Jott hat geschrieben:Time Machine. Eine günstige 5GB-USB-Platte bringt dich ziemlich weit und schützt dich effektiv vor Datenverlust.

Als "Endlager" für die Nachwelt (Masterfiles, Rohmaterial, Projektdaten) kannst du dich dann zwischen billigen USB-Platten (doppelt), Opticals (BD-XL 100 GB), LTO und Cloud entscheiden. Oder eine Kombi. Wurde alles schon bis zur Erschöpfung ausdiskutiert, naturbedingt ohne Ergebnis. Das Problem nimmt dir keiner ab, aber es gibt einen bunten Strauß von Lösungen. Ein Raid ist als Dauerlager untauglich (typisch: Controller gibt den Geist auf und tschüss) und gehört gar nicht auf die Liste.

Ein fcp x-Hinweis: du kannst und solltest vor der "Endlagerung" die Mediatheken aufräumen. Du brauchst dazu weder generierte Medien, noch die Render- oder Analysefiles. Der Rest ist dann klein, und zusammen mit ProRes-Masterfile und verwendetem Rohmaterial (falls du das aufheben willst) ist das Datenaufkommen durchaus überschaubar, irgendwo hin kopieren dauert nur Minuten. Die hast du immer.
Ist das der Grund, warum meine FCP-Dateien so enorm gross sind? 10GB Film und nach der Bearbeitung ein 30GB Datei. Ist das normal?

herzliche Grüsse
Karem
Ich bin Unternehmer und Trainer aus Leidenschaft.
www.karemalbash.com



Jott
Beiträge: 21802

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Jott »

Was meinst du mit fcp-Dateien? Die Mediatheken? Klar, die füllen sich. Du kannst immer wieder mal unter Ablage nicht mehr benötigte Renderdateien löschen.

Was natürlich richtig füllt, sind optimierte Medien, aber die brauchst du eigentlich nicht bei Material aus deiner Kamera. Und Analysis Files können schnell anschwellen. Durch Stabilisierung zum Beispiel.

30GB ist nicht enorm groß. Ist doch nur Speicherplatz für einen oder zwei Euro.



Frank Glencairn
Beiträge: 22709

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Frank Glencairn »

Karem hat geschrieben:oh das ist cool. Das klingt plausibel! Je einfacher desto einfacher :)

Was für Festplatten hast du und wie heisst diese Station?
Platten: Seagate Barracuda
Docking: station BlackX von Thermaltake



mash_gh4
Beiträge: 4716

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von mash_gh4 »

Frank Glencairn hat geschrieben:Raid halte ich für ne Geldverschwendung. Hatte in meinem Leben 4 RAID ausfälle - Rekonstruieren hat ewig gedauert, und am ende nicht funktioniert.
das deckt sich leider mit meinen erfahrungen. mit hardware-RAID-karten und kleinen proprietären externen storage lösungen habe ich im leider immer wieder viel schlimmere und scherer zu lösende ausfälle erlebt, als mit verhältnismäßig einfachen und günstigen standardlösungen.

redundanz im sinne von RAID5 od RAID6 in form eines software-RAIDs halte ich aber trotzdem für eine ziemlich feine und sehr zuverlässige sache. fast wichtiger als redundanz auf blockebene, ist allerdings ein zuverlässiges ständiges monitoring, speziell der S.M.A.R.T.-festplatten-diagnose. in wahrheit kündigen sich ausfälle auf konventionellen platten nämlich im normalfall fast immer im vorfeld früh genug an, wenn man sie entsprechend beobachtet. sollte aber einmal wirklich etwas ausfallen bzw. gröbere erkennbare störungen vorliegen, muss zumindest sofort eine automatische mail rausgehen, damit man es nicht zu lange übersieht.

es gibt allerdings leider nicht nur diese ganz groben ausfälle von platten, die sich in form von zugriffsfehlern bei i/o-operationen ganz offensichtlich zeigen, sondern auch schleichende datenverluste, wo der inhalt der gespeicherten daten punktuell abgeändert wird. das ist leider gerade mit SSDs ein zunehmend ernstzunehmendes problem. dagegen helfen eigentlich nur file-systeme, die mit hilfe von checksummen bei allen zugriffen daten auch in in dieser hinsicht kontrolieren.

in sehr vielen fällen sind auch rückgrifffe auf ältere snapshots fast unumgänglich. das mag zwar vielleicht im kleinen privaten rahmen, wo man höchstens versehentlich einmal ein file löscht und es nachträglich retten muss, keine so große spielen, bei größeren installationen bzw. im professionellen severbetrien kommt es allerdings laufend vor, dass man erst viel zu spät bemerkt, das wiedereinmal eine maschine gehackt wurde und mit wenigen handgriffen auf einen nicht-kompromitierten zustand in der vergangenheit zurückgesetzt werden muss, etc.. natürlich wäre das auch mit klassischen backups auf tape möglich, nur das das bei größeren installationen von den datenmengen bzw. dem dafür nötigen zeitaufwand her kaum in den griff zu bekommen ist. letzteres bildet also eher ein zusätzliches sicherheitsnetz, mit dem man vorrangig die langzeitarchivierung in den griff zu bekommen versuchen wird.

in der praxis halte ich es jedenfalls für sinnvoll, sich auch in überschaubar kleinen arbeitsumgebungen ein wenig an den konventionen und techniken im professionellen storage umfeld zu orientieren. die entsprechende technik ist ja ohnehin sehr einfach für jedermann zugänglich. sie alleine ersetzt halt leider noch lange nicht all jene entsprechende erfahrung, die man sich in der praxis oft gerade erst im kampf mit wirklich groben widrigkeiten langsam aneignen muss. entsprechendes knowhow ist in diesem zusammenhang einfach viel wertvoller als alles was man sich für teures geld irgendwo kaufen kann.

jedenfalls ist dass der grund, warum ich den meisten eher dazu raten würde, wenigstens bei den zentralen storage losungen auf irgendwas einigermaßen transparentes und sauber zu wartendes zu setzten -- bspw. openmediavault, freenas od. auch nexentastore. ich persönlich würde besonders das erstgenannte in verbindung mit ZFSonLinux hervorheben, weil es am ehesten die vorzüge entsprechend leistungsfähiger speicherlösungen mit einem sauber zu wartenden und vielen anwendern vertrautem grundsystem verbindet. im ZFS gibt es auch von haus aus wirklich feine lösungen, um die vorzüge von SSDs mit großem volumensbedarf bzw. dem einsatz klassischer festplatten in sich ergänzender weise zu verbinden. in vielerlei hinsicht ist es noch immer eine der vorbildlichsten lösungen, wenn man verstehen will, wie einigermaßen zeitgemäße storage systeme heute aussehen sollten.

das man am desktop od. laptop die sachen natürlich nicht ganz so einfach in dieser weise absichern kann, ist wieder eine andere geschichte. aber, wenn man sich wenigstens darauf besinnt, zumindest die zentrale infrastruktur in zweckmäßiger weise einzurichten, ist man schon einmal auf dem richtigen weg.



Valentino
Beiträge: 4821

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Valentino »

@mash_gh4
Sind gerade auch dabei so ein NAS aufzubauen, da das vier Jahre alte 4-Bay QNAP so langsam in die Knie geht.

Die aktuellen QNAPs sind ganz schön, aber irgendwie nicht Fisch und nicht Fleisch.
Dazu ist ein 8-Bay System einfach unfassbar teuer und es lassen sich nur die Speichermedien tauschen, aber nicht das Netzteil oder gar CPU.

Deswegen auch der Schritt zu einem OpenSource NAS-OS mit den ganze Vorzügen, aber die große Frage, was für Hardware unterstützt wird.

Wie sieht es da den aus, wir da ein aktueller i7 auf einem Z170er Board mit 10Gbit Karte unterstützt oder nicht. Wie sieht es mit einem LTO-Upgrade aus.
Gibt es da eine Vendor-List oder so für die NAS-Betriebsysteme?

Gibt es dazu die Möglichkeit eine Art Video-Datenbank auf zu bauen, die man durchsuchen kann?

Wenn es um Video geht, gibt es glaub nicht mal von den ganz Großen wie Oracle eine sinnvolle Datenbanklösung.



mash_gh4
Beiträge: 4716

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von mash_gh4 »

Valentino hat geschrieben:Die aktuellen QNAPs sind ganz schön, aber irgendwie nicht Fisch und nicht Fleisch.
das ist leider mit sehr vielen fertiglösungen der fall.

Valentino hat geschrieben:Dazu ist ein 8-Bay System einfach unfassbar teuer und es lassen sich nur die Speichermedien tauschen, aber nicht das Netzteil oder gar CPU.
naja -- ganz billig sind die typischen 19" racksysteme, wie man sie im professionellen umfeld gewöhnlich nutzt, auch nicht unbedingt, aber dafür sind dann halt redundante netzteile und platteneinschübe, die einen hardwareaustausch auch während des laufenden betriebs erlauben, und diverse fernwartungs- und hardwarediagnosefeatures geradezu selbstverständlich.
Valentino hat geschrieben:Wie sieht es da den aus, wir da ein aktueller i7 auf einem Z170er Board mit 10Gbit Karte unterstützt oder nicht. Wie sieht es mit einem LTO-Upgrade aus.
Gibt es da eine Vendor-List oder so für die NAS-Betriebsysteme?
mit linux als betriebssystem, kannst wirklich praktisch alles an hardware verwenden, was es in dieser hinsicht gibt. derartige fileserver stellen normalerweise auch keine all zu großen anforderungen an die rechenleistung. es muss also nichts wirklich übermäßig teures sein.

ich würde derartiges trotzdem nicht mit klassischen desktop/workstation komponeneten bauen, sondern einen erschwinglichen 19" barbone anschaffen (irgendwas von supermicro od. [url=ihttps://www-ssl.intel.com/content/www/us/en/server-systems/intel-server-systems.html]intel[/url], wenn es günstig sein soll). es gibt ohnedies auch hierzulande einige händler, die sich auf den vertrieb genau solcher server-hardware spezialisiert haben.

LTO laufwerke lassen sich natürlich in solche server problemlos einbauen, solange das gehäuse einen entsprechenden einbauplatz vorsieht.
Valentino hat geschrieben:Gibt es dazu die Möglichkeit eine Art Video-Datenbank auf zu bauen, die man durchsuchen kann?
mit entsprechenden video-datenbanken habe ich ehrlich gestanden bisher noch nie zu tun gehabt. im fotografie-umfeld hab ich damit zum teil zu tun gehabt und an entsprechenden redaktionssystemen mitgebastelt. dort gibt's zumindest die möglichkeit, dass man die eiegentliche datenbank tatsächlich direkt mit den metadaten der fotos bei jeder filesystemaktualisierungen am fileserver synchonisiert, so dass man zumindest keine eigene zusätzliche bildatenbank im klassischen sinne benötigt, sondern nur saubere beschreibungen in den metadaten der eigentlichen bilder pflegen muss. im video-umfeld habe ich mit derartigen aber bisher noch nicht zu tun gehabt.



Valentino
Beiträge: 4821

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von Valentino »

@mash_gh4
Vielen Dank für die ganzen Tipps.

Da wir eigentlich nur ein Archiv für schon fertige Filme aber kein 24/7 System brauchen ist so ein Barebone etwas zu viel für hier.
Es wird auch kein Rohmaterial auf dem System archiviert und das Backup der Mails und Buchhaltung soll auch nicht auf das NAS.

Im Prinzip würden auch einzelne Festplatten reichen, aber dann kommt man nicht schnell genug an das Material. Es geht darum das ein Kunde Video XYZ gerne als ProRes hätte und ein anderer die DCP-Version davon als OmU.

In diesem Fall würde das System dann hochgefahren werden und die Dateien auf eine externe Festplatte für den Versand kopiert.

Was Hardware angeht glaube ich aber auch schon seit längerem nicht mehr daran, das ein WS-Board mit Xeon wirklich schlechter ist als solch ein Barebone.
Es hat auch auch nicht jeder ein Serverschrank bzw. Raum in der Firma.

Die ganze Gaming Rechner laufen bei den Zockern meist auch 24/7 und ein passendes Gehäuse mit 8x HotSwap Slots und dualem Netzteil tut es auch.



mash_gh4
Beiträge: 4716

Re: Datenspeicherung: Kombi aus SSD und Raid1 sinnvoll?

Beitrag von mash_gh4 »

Valentino hat geschrieben:Da wir eigentlich nur ein Archiv für schon fertige Filme aber kein 24/7 System brauchen ist so ein Barebone etwas zu viel für hier.
das versteh ich natürlich völlig. es geht auch wirklich mit viel bescheideneren mitteln und recycletem materal oft ganz vernünftig. ich find's wichtiger, dass man möglichst viel kontrolle selbst in der hand behält, und im laufe der zeit das system immer besser an die tatsächlichen erfordernisse anzupassen lernt.
Valentino hat geschrieben:Was Hardware angeht glaube ich aber auch schon seit längerem nicht mehr daran, das ein WS-Board mit Xeon wirklich schlechter ist als solch ein Barebone.
naja -- ich persönlich steh schon ziemlich drauf, wenn die komponenten nicht einfach nur irgendwie in eine kiste gepackt sind und von ein paar kabeln zusammengehalten werden, sonder auch der luftstrom im gerät wirklich intelligent gestaltet ist und sich der zugriff und austausch von verschleißteilen angenehm gestaltet, aber das muss natürlich nicht immer sein...



 Aktuelle Beiträge [alle Foren]
 
» Uwe Boll: Wie man Filme produziert ohne pleite zu gehen!
von Darth Schneider - Fr 6:55
» Nach 7 Jahren mit der OG BMPCC finde ich das Bild noch immer schön.
von Frank Glencairn - Fr 6:22
» >Der LED Licht Thread<
von Frank Glencairn - Fr 5:57
» Was schaust Du gerade?
von Darth Schneider - Fr 5:56
» Venice 2 Bildqualität zum halben Preis? Sony Burano Sensortest
von cantsin - Fr 0:52
» Sondergagen - Wer aufmuckt, wird nicht mehr besetzt
von macaw - Do 23:39
» Interessante Firmware-Updates für Sony Alpha 1, 7S III und 7 IV
von Bergspetzl - Do 22:46
» Nikon stellt NIKKOR Z 28-400mm f/4-8 VR Superzoom-Objektiv vor
von iasi - Do 22:45
» FCPX/Motion, DaVinci/Fusion... Tipps&Tricks
von roki100 - Do 22:27
» Panasonic AG-UX90 Phantomspeisung defekt?
von Fabi283 - Do 22:03
» Mac SSD Speed Messung?
von TomStg - Do 21:43
» Neues SIGMA 50mm F1,2 DG DN | Art Objektiv wiegt 745g
von dienstag_01 - Do 21:21
» Deity Sidius TC Sync Software
von pillepalle - Do 19:58
» Red Komodo 6K + Gimbal, Advanced Ring Grip und viel Zubehör
von Sevenz - Do 19:01
» Camera Update 8.6: Viele neue Funktionen für Blackmagic Kameras
von slashCAM - Do 17:42
» Tieraufnahmen mit dem MKE600 + H1 Essential rauschen
von Swat - Do 16:06
» 4 Gründe hartes Licht zu nutzen
von ruessel - Do 15:45
» [gelöst] 3.5mm Klinkenstecker Überwurfmutter
von Skeptiker - Do 14:42
» Panasonic S5 - Allgemeine Fragen, Tipps und Tricks, Zeig deine Bilder/Videos usw.
von Darth Schneider - Do 13:49
» -SONY FX- Erfahrungsaustausch
von rush - Do 13:40
» AOC bringt 44.5" OLED-Riesenmonitor mit 98.5% DCI-P3
von MK - Do 12:07
» Adobe führt die neue Funktion "Structure Reference" in Firefly ein
von slashCAM - Do 10:54
» Exhuma - die Südkoreaner können erfolgreiche Filme drehen
von -paleface- - Do 8:46
» Was hörst Du gerade?
von roki100 - Do 0:22
» Sony A9 III im Praxistest - ein echter Überraschungscoup auch für Filmer
von Mantas - Mi 23:27
» Video Pro X stürzt beim Multi Cam Schnitt ab
von MisterX - Mi 21:47
» Verschachtelte Timeline im richtigen Seitenformat
von Clemens Schiesko - Mi 18:43
» Untertitel in FCPX bei vorhandener Textdatei?
von R S K - Mi 18:34
» Deckenlicht mobil abschatten
von Frank Glencairn - Mi 17:31
» LUTs für Canon R6 Mark II
von TomStg - Mi 12:24
» RED versucht User nach Übernahme durch Nikon zu beruhigen
von dienstag_01 - Mi 11:52
» Entfesseltes Storytelling mit der Video-KI Sora?
von Frank Glencairn - Mi 5:54
» Slashcam 2001 - Das Internet vergisst nichts!
von macaw - Di 21:37
» Dehancer Pro - Filmsimulation auf höchstem Niveau
von Frank Glencairn - Di 18:54
» Wie Dune Teil 2 entstand - DoP Greig Fraser und Hans Zimmer im Interview
von iasi - Di 13:32