Nachrichten für mehr als 10.000 Rechner im Netzwerk - Welche Technik verwenden?

[Piro]

Moin zusammen,

in unserer Firma habe ich einen kleinen Client, der versteckt im Hintergrund läuft und jede Minute in eine Datenbank schaut, ob eine relevante Nachricht vorhanden ist und danach seine Verbindung wieder schließt. Wenn ja, dann wird sie angezeigt.
Es ist ein Taskleisten (ganz rechts) -Anwendung.
Derzeit sind es um die 2000 Rechner, die ein Datenbankverbindung aufbauen.

Ich frage mich jetzt nur, ob das der beste Weg ist.

Meine möglichen Lösungen (ich habe nur keine Ahnung in Bezug auf die Performance bei mehr als 10.000 Rechnern).

1. Jeder Rechner schaut alle Minute in eine DB
2. Sockets Server / Client Anwendung ähnlich wie bei einem Chat (habe davon nur überhaupt keine Ahnung)
3. ???

Ich würde es toll finden, wenn Ihr mir mit eurem Wissen weiterhelfen würdet, welcher Weg der beste wäre für solch eine Anzahl an Rechnern - mehr als 10.000.

In einem CSharp Forum wurde mir SignalR empfohlen? Link :http://www.mycsharp.de/wbb2/thread.p...80#post3784780
Wollte es erst in C# machen aber hier bin ich noch Anfänger.

Vielen Dank im Voraus.
Sven

[TheMiller]

Es kommt auf Plattform an, würde ich sagen.

Generell würde ich diese Aufgabe von einem MessageBroker / MessageQuere erledigen lassen. Nutzt ihr alle ausschließlich Windows, dann der Einfachheit halber Microsoft Message Queue Server. Der ist beim Windows-Server dabei, muss nur aktiviert werden.

Nutzt ihr verschiedene Betriebssysteme oder sogar Mobile-Clients, dann über eine Webseite mit Websockets. Dort läuft dann ein Websocket-Router oder Server zB Crossbar.io oder Node.js etc.pp. Mit Crossbar kannst du den Socket in jeder Sprache schreiben (naja, fast jeder) und dennoch Clients aller Art bedienen. Die Architektur dahinter ist allerdings sehr umfangreich - ich habe das gerade selbst umgesetzt.

Also, Windows = MSMQ
PHP = RatchetPHP, Thruway, Crossbar.io
JS = Node.js

AUf der Serverseite fragt eine Verbindung nach neuen Daten, alle Clients registrieren sich in der Queue und werden bei neuen Daten benachrichtigt, bzw. die Daten werden gleich mitgeschickt.

Ich hoffe, ich konnte auf die Schnelle ein wenig helfen.

[Valle]

Klar ist schonmal, dass jede Minute die Datnebank zu pollen, definitiv nicht die beste Möglichkeit ist.

Technisch am besten dafür geeignet wäre im Prinzip eine Multicast Nachricht. Jeder der teilnehmenden Rechner schreibt sich in die entsprechende Multicast Gruppe ein und der Server sendet eine Multicast Nachricht an diese Gruppe, sobald ein bestimmtes Event eingetreten ist. Die richtige Hardware vorausgesetzt bekommt so jeder der 10.000 PCs gleichzeitig seine Nachricht und die benötigte Bandbreite könnte geringer gar nicht sein.

Leider ist das nicht immer eine mögliche Option. Billige Switches spielen da nicht mit, der Konfigurationsaufwand ist nicht zu unterschätzen und über das Internet funktioniert diese Technik nicht. :-/

Auf jeden Fall würde ich zur Lastreduzierung vom Polling wegkommen und stattdessen ein zentrales Prinzip einführen. Die erwähnten WebSockets sind in der Tat eine Option, allerdings solltest du die Technologie verwenden, mit der du am besten vertraut bist. Wenn deine Anwendung mit Web nichts zutun hat und du auch mit node.js und Konsorten nicht vertraut bist, sehe ich wenig Sinn dahinter, den gesamte Overhead dieser Technologie mitzunehmen.

Stattdessen würde ich dann eher herkömmlichen TCP-Verbindung zurückgreifen. Du musst bei der Implementierung darauf achten, dass 10.000 Verbindungen ziemlich viele sind. Das bedeutet für dich, dass du bei der Implementierung schauen müsstest, dass du nicht 10k Threads oder gar 10k Prozesse startest. Stattdessen würde wenige Threads zur Abarbeitung aller Verbindungen ja genügen.

[himitsu]

Wenn er selber was mit TCP macht, warum dann nicht besser ein Netz, anstatt einem Stern?

Entweder mehrere Server (PCs+Programm) oder die Clients bauen untereinander Verbindungen auf.
Diese 10.000 Rechner werden ja nicht alle im selben (lokalen) Netz hängen, also da eher über die Welt verstreute Server und mmer mit dem "nächsten" verbinden, oder in den verschiedenen lokalen Netzen sprechen sich die Clients ab, wobei sich dann einer/mehrere auch als "Server" bereit stellen, über den die Anderen mit dem Server rden, bzw. von denen sie die Multicastnachrichten bekommen.

Quasi wie bei vielen FileSharingDiensten ala Torrent.

[jobo]

Als Ergänzung zur Problematik:
Wenn eine schlanke Massenbenachrichtigung per Push realisiert ist, musst Du auch mit der Reaktion klarkommen.
Wenn vormals hunderte oder 2-tausende Rechner mit dem minütlichen Pollen wahrscheinlich eine rauschartige, hohe Grundlast auf dem Server produziert haben, könnte es nun mit pünktlichem Push an 10000 Systeme und anschließender DB Anfrage zu einer schlagartigen Überlast führen. Dabei kommt es auch darauf an, wie zielgenau bzw. ereignisspezifisch die Nachrichten verschickt werden, also an wieviele Clients /Gruppen.
"An alle: Es gibt neue Daten" ist weniger hilfreich als "An Etage 2, Nordtrakt: Neuer Drucker verfügbar"

[TheMiller]

Deswegen würde ich eine MessageQueue empfehlen, bei der sich die Clients registrieren und bei einem Event gleich die Nachrichten übermittelt bekommen. So sind die Daten gleich verfügbar. Oder man sendet in die Nachricht einen timestamp mit, wann sich der Client X mit dem Server verbinden und die Daten laden soll. (Die ersten 500 sofort, die nächsten 500 in sofort+x Sekunden, etc.pp).

Als MessageQueue kann ja der MS-Server (MSMQ) benutzt werden. Schnelle, saubere, skalierbare Lösung.

[mjustin]

Zitat von Piro:

3. ???

MSMQ wurde bereits erwähnt. Es gibt als Alternative auch viele Free Open Source Message Broker. Zwei, die sehr verbreitet im produktiven Einsatz sind, können über diverse Client-Bibliotheken auch von Delphi/Free Pascal aus verwendet werden:

* Apache ActiveMQ (Java-basiert, Clients in C/C++, C#, PHP, Pascal, Perl, Python, ...) unter http://activemq.apache.org/
* RabbitMQ (Erlang-basiert, Clients in Java, C#, Ruby, Python, PHP, JavaScript, Pascal, ...) - http://www.rabbitmq.com/

[TERWI]

@ Mavarik
... wohl wahr - wie immer !

@ mjustin
Free Open Source Message Broker ? Indianer und andere Hasen ???
Was haben die mit der Entwicklung eines sauberen und schlanken Programmes zu tun ?

Eher NIX !?

Damit wird nur massiv auf/eingesetzt und anderen das Denken überlassen, die/wo/da/so dann doch mit nennenswerter/überdimensionierter Performance NUR mit MEGA-EURO für Hardware, welche die schlecht gemachte Software wieder rausreissen muss ....

Aktuell finde ich es sehr erstaunlich, hier noch mit 9000/700 am start zu sein. Nicht der Brüller - manche anderen würden sich freuen.

[mjustin]

Zitat von TERWI:

@ mjustin
Free Open Source Message Broker ? Indianer und andere Hasen ???
Was haben die mit der Entwicklung eines sauberen und schlanken Programmes zu tun ?

Eher NIX !?

Alle Message Broker (auch MSMQ) haben den Vorteil, dass sie eine bestimmte Aufgabe übernehmen, die dann nicht mehr in jedem einzelnen Programm eingebaut sein muss. Das führt auch zu kleineren, schlankeren Programmen, weil nur noch wenige Kilobyte für das Protokoll und den Netzwerkstack benötigt werden. Für Routing, und bei Bedarf auch Persistenz und vieles mehr, ist der Broker zuständig (der auch mit guter Leistung in einer kleinen virtuellen Maschine betrieben werden kann).

Zitat von TERWI:

Damit wird nur massiv auf/eingesetzt und anderen das Denken überlassen

Wer die Lust und Zeit dafür hat, darf sich natürlich alle Server selbst bauen - Datenbanken, Mailserver, Webserver, ... (Ohne Pioniergeist und Investitionen kein Fortschritt). In der Praxis gibt es aber immer auch Rahmenbedingungen und Interessenslagen, die die Auswahl einer bestehenden Lösungen begünstigen machen, wenn damit ein gesetztes Ziel erreicht werden kann (auch wenn es etwas mehr kostet als eine selbst "gebraute" Lösung). Türklinken müssen nicht vergoldet sein.

[mjustin]

Zitat von Piro:

Derzeit sind es um die 2000 Rechner, die ein Datenbankverbindung aufbauen.

Noch eine Alternative: falls die Datenbank Events unterstützt (InterBase, Firebird z.B.), kann man diese im Client 'abonnieren'.

Beispiele, Vor- und Nachteile habe ich in einem Blog Artikel (Englisch) beschrieben unter https://mikejustin.wordpress.com/201...ed-middleware/

Eventuell auch interessant ist: Why is a database rarely the best tool for a queue based problem