Hallo zusammen, ich (kein ITler) suche eine gute und günstige Lösung ca. 50 GB an Daten irgendwo in die Cloud abzulegen um mit einer API darauf zu zugreifen.Traffic sind ein paar MB am Tag. Da ich mich mit IT-Sicherheit nicht gut auskenne und der Datensatz öffentlichk verfügbare (aufbereitete) Datensätze beinhaltet, suche ich nach einer SaaS Lösung, bei der sich andere sich um Sicherheit und Serverwartung kümmern.

Was könnt ihr mir empfehlen?

Edit: Daten schonmal für die zahlreichen Antworten. Hier noch mehr Informationen zum Unterfangen:

Die Datenbank liegt jetzt als CSV vor. Die Datei wird am Ende ca 50GB haben, derzeit ca 3 GB. Enthalten sind Daten von Tieren und deren Eigenschaften. Ich möchte mit n8n (Automatisierung wie Zapier) ein Tier abfragen und Farbe, Lebensraum etc als Antwort erhalten. Es sind <100 Anfragen am Tag und die Datenbank soll nicht groß bearbeitet werden. Wenn, dann lade ich weitere CSVs hoch um sie zu erweitern.

  • MilderRichter@feddit.de
    link
    fedilink
    arrow-up
    4
    ·
    1 year ago

    suchst du nach einer relationalen Datenbank (mysql,postgres,…) oder einfach nach einem Datenspeicher? In deinem Titel steht Datenbank, aber nach dem Text hört es sich eher an, dass du nach einfachem cloud-speicher suchst. Also sowas wie amazon S3. Da gibt es auch etliche kompatible Alternativanbieter.

  • elmicha@feddit.de
    link
    fedilink
    arrow-up
    4
    ·
    1 year ago

    Was soll die API denn können? Um Deine aktuelle Anforderung zu erfüllen, könnte man sagen: schmeiß die Datei(en) auf irgendeinen Webserver, und die API findet sich im RFC für HTTP. Du möchtest was ändern? Lade die Datei(en) neu hoch, oder lade zusätzliche Dateien hoch.

    • scherzerl@feddit.deOP
      link
      fedilink
      arrow-up
      3
      ·
      edit-2
      1 year ago

      Nichts besonderes. Nur Werte auslesen. Aber jedes mal 50 GB hoch laden wenn sich was ändert wär schon heftig

      • MilderRichter@feddit.de
        link
        fedilink
        arrow-up
        1
        ·
        1 year ago

        jedes mal 50 GB hoch laden

        ich denke die Idee wäre jeden datensatz in eine eigene Datei zu stecken. Dann muss man zum hinzufügen von datensätzen nur neue dateien hochladen.

        Wenn du jedoch eine Eigenschaft zu jedem Datensatz hinzufügen möchtest, müsstest alle Dateien nochmal hochladen. Falls das öfter passiert, wäre das also keine gute lösung

        • scherzerl@feddit.deOP
          link
          fedilink
          arrow-up
          4
          ·
          1 year ago

          Das war der richtige Tipp, danke! Habe mir bei Manitu einen Webspace für 2,50€ im Monat geholt und eine MariaDB genommen. Die ersten GB sind schon hochgeladen und ich hoffe die DB darf weiter wachsen. Das ist meine erste DB und die ersten Abfragen haben funktioniert, ein bisschen wie Magie. Ich bin begeistert!

  • elmicha@feddit.de
    link
    fedilink
    arrow-up
    2
    ·
    1 year ago

    Wenn Du eh n8n lokal (?) installiert hast, könntest Du eine Postgresql-Datenbank zusätzlich auf demselben Server installieren. Die läuft auch auf einem Mini-Rechner wie Raspberry Pi.

    • scherzerl@feddit.deOP
      link
      fedilink
      arrow-up
      3
      ·
      1 year ago

      Das wär mein Favourit gewesen und hatte ich schon am laufen. Limitgröße für CSV-upload: 5 MB :/

      • philpo@feddit.de
        link
        fedilink
        arrow-up
        4
        ·
        1 year ago

        Per Script splitten? Ich meine 3GB läd man ja auch bei anderen DBs ungern in einem Stück hoch.