Nach Reise und Backup der Reisedateien plötzlich 5000+ mails zu bearbeiten

  • Um Rückfragen vorzubeugen, bitten wir um folgende Angaben:
    * Programm + Version: TB 38.2.0
    * Betriebssystem + Version: Ubuntu 14.04
    * Kontenart (POP / IMAP): IMAP
    * Postfachanbieter (z.B. GMX): eigener Server
    * Eingesetzte Antivirensoftware: keine
    * Firewall (Betriebssystem-intern/Externe Software): Fritzbox


    Wenn ich verreise, aktualisiere ich mir vorher eine Kopie meines Desktop-PCs (DT) auf meinen Notebook (NB). Das beinhaltet auch die TB-Profile. So kann ich dann unterwegs mit dem Notebook arbeiten, die eMails beantworten etc. Anschliessend mache ich ein Restore vom NB auf den DT:

    Code
    1. sourcepath=.thunderbird
    2. echo
    3. echo Kopiert Path: $sourcepath
    4. sudo rsync -avRu --progress --exclude-from="$ausschluss" $sourcepath $destpath

    Diesmal wurden jedoch unerwarteterweise alle 5000+ emails nochmal vom IMAP-server heruntergeladen. Meine Arbeit ist zunichte.


    Im Archiv- und im gesendet Folder sind die auf der Reise bearbeiteten Dateien wie gewünscht angekommen. Nur eben die neuen Eingangsemails hätten nicht alle kommen sollen, sondern nur die seit Ende der Reise.


    Was mache ich falsch?
    Und wie kriege ich es wieder hin?


    Danke
    Res

    Dateien

    • excludelist.txt

      (472 Byte, 106 Mal heruntergeladen, zuletzt: )

    Einmal editiert, zuletzt von res54 ()

  • Hallo Res,


    wenn ich von einer Reise heimkomme, sage ich erst einmal "Griaß eich mitanand" ;-)


    Dein Posting wirft eine Reihe Fragen auf.

    Diesmal wurden jedoch unerwarteterweise alle 5000+ emails nochmal vom IMAP-server heruntergeladen. Meine Arbeit ist zunichte.

    Falls tatsächlich 5000+ E-Mails heruntergeladen wurden, dann kann es sich dabei ja nur um den lokalen Cache gehandelt haben. Die E-Mails auf dem Server bleiben dadurch unangetastet. Ich verstehe deshalb nicht, weshalb dadurch Deine Arbeit zunichte ist. Dein Script kann nur lokale Dateien kopieren. Alles, was auf dem IMAP-Server liegt, bleibt davon unberührt. Wenn bei der Synchronisation der lokalen Dateien etwas schiefgegangen ist, dann verstehe ich schon, weshalb Deine Arbeit zunichte sein kann.


    Zu dem Script selbst.

    Das beinhaltet auch die TB-Profile.

    Daraus, und weil ich ein "#!/bin/sh" vermisse, schließe ich, dass Du oben nur einen Teil des Scripts gepostet hast. Heißt das, es folgen in dem Script noch weitere Aufrufe von rsync? Sind dort dann auch die Variablen "destpath" und "ausschluss" definiert?


    Rsync ist ein recht komplexes Tool mit sehr vielen Optionen. Die habe ich bei weitem nicht alle nicht alle im Kopf. Auf den ersten Blick scheinen mir aber ein paar Punkte unklar.

    • Die Verwendung der Option -R. Da ich den Wert von destpath nicht kenne, kann ich nicht berurteilen, ob Du diese Option hier richtig gebrauchst. Ich kann mir nur denken, dass weitere rsyncs folgen, die ebenfalls destpath benutzen. Ansonsten wäre es besser, absolute Pfade zu benutzen und auf den Gebrauch einer Umgebungsvariablen zu verzichten.
      Wenn Dein script aber bisher funktioniert hat und es keine Änderungen gab, sollte das wohl passen.
    • Für den Wert der Variablen "ausschluss" gilt dasselbe. Die Leser hier können nur raten, dass sie auf die Datei excludelist.txt zeigt. In dieser Datei habe ich beim Überfliegen des Inhaltes übrigens nichts gefunden, was für diesen rsync relevant wäre.
    • Du hast die Option -v gesetzt. Somit hast Du eine Ausgabe erhalten, welche Dateien kopiert/ersetzt wurde. Diese Liste wäre hilfreich.
    • Die Option -u ersetzt oder belässt Dateien anhand des Timestamps dieser Datei. Solltest Dich Deine Reise in eine andere Zeitzone geführt haben oder falls zwischendurch etwas mit der Uhrzeit durcheinandergekommen ist (Sommerzeitumstellung?), dann könnte es in der Folge zu einer falschen Synchronisation der lokalen Dateien gekommen sein.


    Nur eben die neuen Eingangsemails hätten nicht alle kommen sollen, sondern nur die seit Ende der Reise.

    Das verstehe ich ebenfalls nicht. Wenn Deine INBOX auf dem IMAP noch alte E-Mails enthält, dann werden die natürlich auch angezeigt. Ich kann mir noch ein Szenario vorstellen: Du hast vielleicht auf der Reise offline gearbeitet und einige E-Mails gelöscht. Bevor Du das Notebook mit dem IMAP-Server gesynct hast, hast Du Dein Script laufen lassen. Wenn dabei jetzt etwas schiefgeht, dann solltest Du schlimmstenfalls die zuvor gelöschten E-Mails wiederbekommen.


    Gruß


    Susanne

  • Hallo Res,


    Also wenn ich verreise, dann schnappe ich mir eines meiner beiden Notebooks - und fahre los.
    Beide Notebooks haben irgendwann mal das Thunderbird-Profil vom Desktop-PC verpasst bekommen und sind somit vom Profil her identisch. Und da ich grundsätzlich meine aktiven Mailkonton per IMAP nutze, muss ich mir doch überhaupt keine Gedanken wegen der E-Mails machen. IMAP = auf allen Rechnern sind die Mails synchron, ohne Wenn und Aber!
    (Dass meine Kalender und Adressbücher sowie ~/Dokumente und ein paar weitere Ordner meines /home völlig automatisch mittels Radicale und Seafile und natürlich einem meiner Raspberry Pi synchron gehalten werden, erwähne ich nur am Rande. Und dass ich auf dem Desktop alle aufhebenswerten Mails zusätzlich noch einmal in meine "Lokalen Ordner" kopiere, ist lediglich mein Gürtel zum Hosenträger. Für die eigentliche Funktion nicht notwendig, ebenso wenig wie meine gute Angewohnheit, täglich mein gesamtes /home mittels Backintime auf mein NAS zu sichern.)


    Weshalb schreibe ich dir das?
    Ich schreibe es, weil ich wirklich nicht verstehen kann, warum ein Nutzer, der seine Mailkonten mit IMAP verwalten kann, noch irgendwelche Klimmzüge macht, um mittels Scripten irgendwas zu synchronisieren. Ich kenne und schätze rsync selbstverständlich auch, aber dort, wo es nicht anders geht.


    Vielleicht könntest du doch noch mal schreiben, welche von dir definierte Aufgabe durch IMAP nicht erfüllt werden kann ("Fähigkeitslücke" von IMAP).



    MfG Peter

    Thunderbird 45.8.x, Lightning 4.7.x, openSUSE Tumbleweed, 64bit
    S/MIME, denn ich will bestimmen, wer meine Mails lesen kann.
    Nebenbei: die Benutzung der (erweiterten) Suche, und von Hilfe & Lexikon ist völlig kostenlos - und keinesfalls umsonst!
    Und: Ich mag kein ToFu und kein HTML in E-Mails!

  • Grüezi Miteinand!


    Inzwischen habe ich den Bug gefunden: Die Festplatte war voll. Das Profil umfasst so gute 34 GB, dass ich künftig auf den freien Plattenplatz aufpassen muss. Kann man das Rsync so einstellen, dass es eine entsprechende Fehlermeldung am Ende anzeigt? So ist die Fehlermeldung vermutlich in der endlosen Liste der Dateinamen untergegangen.


    Unabhängig von diesem Bug haben Eure Antworten mich darauf aufmerksam gemacht, dass ich wohl mit meinem Setup nicht uptodate bin. Mein "Backup auf Notebook und Restore auf Desktop" kommt wohl noch aus den POP3-Zeiten und passt nicht zum IMAP. Danke für den Hinweis. Irgendwie habe ich wohl noch nicht genau verstanden, welche Folder über IMAP verwaltet werden und welche nicht.


    Ich sortiere die hereinkommenden eMails (im Schnitt ca. 200 pro Tag) in diverse Folder: Archiv (für fertig bearbeitete), Fibu (für hereinkommende Rechnungen), ... und meine Antworten (im Sent-Folder) möchte ich natürlich auch bewahren. Und bislang sind diese alle Local. Wäre besser die alle auch als IMAP-Folder auf dem Server zu belassen.


    Gibt es da einen guten Text für Einsteiger, um die Grundlagen als Imap-User zu lernen? Was könnt Ihr mir da empfehlen?


    Gruss und danke für die ausführlichen Antworten.


    Res

  • Guten Morgen SusiTux

    Wenn Deine INBOX auf dem IMAP noch alte E-Mails enthält, dann werden die natürlich auch angezeigt. Ich kann mir noch ein Szenario vorstellen: Du hast vielleicht auf der Reise offline gearbeitet und einige E-Mails gelöscht. Bevor Du das Notebook mit dem IMAP-Server gesynct hast, hast Du Dein Script laufen lassen. Wenn dabei jetzt etwas schiefgeht, dann solltest Du schlimmstenfalls die zuvor gelöschten E-Mails wiederbekommen.

    genau. Ich erhalte die Mails verschiedener Konten in meinem Posteingang und lösche bzw. verschiebe dann diese Mails in verschiedene lokale Folder. Das ist die Arbeit, die ich nicht gerne am anderen Rechner noch einmal machen will. Mein Fehler ist also eine Vermischung von lokalen Foldern (die man mit Backup und Restore verwalten würde) mit dem IMAP-Konzept, wo alle Folder auf dem Server verwaltet werden. Das muss ich mal auseinandersortieren. Ausserdem habe ich einige dutzend eMailkonten im Profil, auch Verwaltungskonten für meine Kunden, was die Sache unübersichtlich macht und die Dateigrössen so ausufern lässt. Da muss ich mir mal eine Optimierung einfallen lassen.


    Gruss und Danke
    Res

  • Hoi Peter

    Vielleicht könntest du doch noch mal schreiben, welche von dir definierte Aufgabe durch IMAP nicht erfüllt werden kann ("Fähigkeitslücke" von IMAP).

    Es handelt sich hier weniger um eine Fähigkeitslücke von IMAP als eine von mir. Ich bin kein eMail-Spezi und muss da noch was dazulernen und mich besser organisieren. Du hast mir einige gute Anregungen gegeben. Danke.
    ciao
    Res

  • Servus Res,

    Kann man das Rsync so einstellen, dass es eine entsprechende Fehlermeldung am Ende anzeigt? So ist die Fehlermeldung vermutlich in der endlosen Liste der Dateinamen untergegangen.

    Ich hatte die Situation noch nicht. Ich nehme aber an, dass rsync abbricht, wenn der Platz nicht mehr aussreicht. Die entsprechende Fehlermeldung sollte daher eh die letzte in der Liste sein. Man muss halt auch hinschauen. ;-)
    Rsync bietet die Möglichkeit eines Trockenlaufs, um den benötigten Speicherplatz zu ermitteln. Einfach die (sehr umfangreiche) man-page aufrufen.

    Mein "Backup auf Notebook und Restore auf Desktop" kommt wohl noch aus den POP3-Zeiten und passt nicht zum IMAP.

    Es ist weniger das Backup-/Restore-Verhalten, dass Du ändern solltest. Für eine Datensicherung passt es schon, wenn Du das gesamte Profil sicherst. (Sichern im Sinne von Datensicherung, nicht im Sinne von Synchronisieren)
    Was nicht passt ist Dein Umgang mit IMAP. Da IMAP-Ordner auf einem Server liegen, sind sie per se synchron. Für die wird kein Script benötigt. Das gilt allerdings nur, solange Du auch online bist. Betreibst Du den TB offline dann synchronisiert er automatisch, sobald er wieder eine Verbindung zum Server bekommt.


    Ich erhalte die Mails verschiedener Konten in meinem Posteingang und lösche bzw. verschiebe dann diese Mails in verschiedene lokale Folder.

    Diese Arbeitsweise ist nicht unüblich, vor allem dann, wenn der Speicherplatz auf dem IMAP-Server nicht genügt.
    Wenn Deine Quota auf dem Mailserver groß genug ist, dann kannst Du Dir die gesamte Ordnerstruktur aber auch gleich auf dem Server anlegen. Damit erübrigt sich das manuelle Syncen per Script komplett.
    Allerdings würde ich Dir empfehlen, auf einem der Rechner dennoch eine lokale Kopie dieser Ordnerstruktur samt Inhalt vorzuhalten und diese auch regelmäßig zu sichern. Nur für den Fall, dass auf dem Server etwas schiefgehen sollte, Du den Provider wechselst, ... .


    Gibt es da einen guten Text für Einsteiger, um die Grundlagen als Imap-User zu lernen? Was könnt Ihr mir da empfehlen?

    Einfach eine Suchmaschine Deines Vertrauens bemühen. Hier im Forum sowie oben unten Doku und FAQ findest Du ebenfalls etwas dazu.


    Gruß


    Susanne

  • Hallo Res,


    vielleicht auch noch von mir eine Ergänzung. Auch wenn Susanne schon alles Wesentliche geschrieben hat.


    So lange dir dein Provider ein ausreichendes Quota ("Postfachgröße") bereitstellt, kannst du sämtliche Mails auf dem Server behalten. Und da du ja einen eigenen Server betreibst, sollte das Quota bei dir ja wohl überhaupt keine Rolle spielen. Auch die Anzahl der möglichen Ordner und Unterordner auf dem IMAP-Server dürften bei einem eigenen Server niemals eine Begrenzung sein.
    Deshalb solltest du deine Ablage so organisieren, dass du diese nach Kunden/Projekten/Vorgängen und darunter auch noch nach Jahren organisierst. Damit kannst du garantiert abgelaufene Projekte, nicht mehr aktive Kunden oder auch Jahrgänge (also Unterordner von den oben genannten) immer dann, wenn du selbige garantiert nicht mehr "life" benötigst, in eine Ablage innerhalb der "Lokalen Ordner" verschiebst und somit aus dem eigentlichen Postfach entfernst. Bei einem ausreichenden Quota musst du das aber nicht tun, wenn dein Quota aber arg begrenzt ist, solltest du dir damit aber Platz schaffen.
    (Hinweis: Beim Verschieben immer erst kopieren => Erfolgskontrolle und erst danach an der Quelle löschen. So viel Zeit sollte sein.)


    IMAP musst du dir wie eine Art "Fernbedienung" deines Mailkontos mit einem Mailclient vorstellen. Fast so, wie bei dem (IMHO gruseligen) Webmail, nur das du mit einem richtigen Mailclient viel mehr Möglichkeiten hast, und wenn es "nur" das Anlegen mehrerer Mailkonten auch unterschiedlicher Provider ist.
    Alles, was du auf dem Mailclient machst (Mails lesen, neue Mails schreiben, Ordner anlegen und auch löschen, Mails löschen usw.) wird durch den Mailclient angestoßen und letztendlich auf dem Server ausgeführt. Der Mailclient zeigt dir immer den aktuellen Status auf dem Server an, also auch die neu geschriebene oder den neu angelegten Ordner, usw.


    Mit der Funktion "Abonnieren" kannst du festlegen, welche Ordner (auf dem Server) du im Client sehen willst, oder welche du ausblenden (deabonnieren) willst. So musst du uralte oder inaktive Ordner nicht unbedingt anzeigen lassen - kannst es aber jederzeit durch Abonnieren derselben.


    Und der Hauptvorteil von IMAP ist aber, dass du dein Mailkonto mit "beliebig vielen" Mailclients synchron und sogar zeitgleich (mit ein wenig Nutzerdisziplin) nutzen kannst.


    Wie auch Susanne schon erwähnt hat, solltest du (gerade bei geschäftlichen Mails => gesetzliche Vorhaltezeit geschäftlicher Dokumente!!!) alle aufhebenswerten Mails zusätzlich zur Speicherung auf dem Mailserver noch einmal in den "Lokalen Ordnern" speichern. Dazu habe ich mal in einem älteren Ordner was geschrieben: Re: [imap+lokal] Suche ideales System für Archivierung



    OK?



    MfG Peter

    Thunderbird 45.8.x, Lightning 4.7.x, openSUSE Tumbleweed, 64bit
    S/MIME, denn ich will bestimmen, wer meine Mails lesen kann.
    Nebenbei: die Benutzung der (erweiterten) Suche, und von Hilfe & Lexikon ist völlig kostenlos - und keinesfalls umsonst!
    Und: Ich mag kein ToFu und kein HTML in E-Mails!