Jump to content

Eure Meinung zum zukünftigen Ausbau


Recommended Posts

25 minutes ago, zero_neverload said:

Das heisst, die sollten dann ja auch kein managemend mehr haben oder?

 

Welches Management meinst Du?

Das sind im Grund reine HBA.

Die Megaraidmodelle haben ein zusätzliches Management wegen der Raideinstellungen und so weiter, aber die normalen HBA (9300) brauchen diese nicht. (Ich glaube aber beim booten kann man PCI Order oder so verstellen.)

 

25 minutes ago, zero_neverload said:

Ist deiner aktiv gekühlt, oder meintest du nur die verschiedenen Ausführungen.

 

Die einen sind schwarz, die anderen silbern, die nächsten haben Lamellenkühler, dann sind welche mit Finnen zu haben wieder andere haben weitaus größere Kühler....

Aktiv sind aber keine von denen von Haus aus. Aber findige Nutzer basteln da Lüfter dran.

Annähernd alle SAS Kontroller von LSI benötigen einen gewissen Luftstrom um keinen Schaden zu nehmen und der ist bei den mir bekannten Modellen mit 200LFM angegeben.

 

25 minutes ago, zero_neverload said:

Karte hab ich jetzt bestellt, dauert wohl nur so 14 - 20 Tage bis die Karte hier ist. ich bin ja mal sehr gespannt was es Stromtechnisch ausmacht.

 

Einerseits werden die C-States kaum noch unter C3 gehen (wenn überhaupt) und andererseitzs werden die im Betrieb (normale Last) wohl bei den angegebenen rund 13W liegen.

 

DCSG-PB-SAS-9300-HBA-Family_090815.pdf

 

SAS-Screenshot 2024-04-20 221450.png

Link to comment
4 minutes ago, DataCollector said:

 

Welches Management meinst Du?

Das sind im Grund reine HBA.

Die Megaraidmodelle haben ein zusätzliches Management wegen der Raideinstellungen und so weiter, aber die normalen HBA (9300) brauchen diese nicht. (Ich glaube aber beim booten kann man PCI Order oder so verstellen.)

Genau das meinte ich. Wenn also der HBA eingebaut ist, muss ich da nix einstellen weil der ja eh dann alles durchreicht.

4 minutes ago, DataCollector said:

Die einen sind schwarz, die anderen silbern, die nächsten haben Lamellenkühler, dann sind welche mit Finnen zu haben wieder andere haben weitaus größere Kühler....

Aktiv sind aber keine von denen von Haus aus. Aber findige Nutzer basteln da Lüfter dran.

Annähernd alle SAS Kontroller von LSI benötigen einen gewissen Luftstrom um keinen Schaden zu nehmen und der ist bei den mir bekannten Modellen mit 200LFM angegeben.

Hast du bei dir noch zusätzlich was angebaut? (bei deiner Servervorstellung hab ich nichts erkennen können)

Ich denke der Luftstrom der 3 internen Lüfter sollte genügen oder?
Meine Bifurcation NVME Card ist auch schön gekühlt im 1. PCIE Slot.

4 minutes ago, DataCollector said:

Einerseits werden die C-States kaum noch unter C3 gehen (wenn überhaupt) und andererseitzs werden die im Betrieb (normale Last) wohl bei den angegebenen rund 13W liegen.

C2 und C3 States kennt der Supermicro bei mir jetzt aktuell garnicht. 

image.png.97164ae3ed72f0594dd3f6302e8b3647.png

 

4 minutes ago, DataCollector said:

 

DCSG-PB-SAS-9300-HBA-Family_090815.pdf

 

SAS-Screenshot 2024-04-20 221450.png

Die aktuelle Karte verbraucht vermutlich denke ich wesentlich mehr. (LSI MegaRAID SAS-3 3108 [Invader] (rev 02))

 

Könntest du noch auf die Frage zur Anbindung der Backplane sagen ob ich noch ein Kabelset bestellen muss oder ob das eine ausreichend ist?

Danke vorab

Link to comment
3 minutes ago, zero_neverload said:

Hast du bei dir noch zusätzlich was angebaut?

 

Ich habe (in meinen beiden Windows PC mit Fileservernutzung) die Megaraid 9361-8i und 16i im Einsatz. Das ist im Prinzip der (fast) gleiche Entwicklungsstand der 9300, doch eben reine Raidkontroller.

Bei den System habe ich einen Slotlüfter daneben geschraubt (die versterben bei mir aber rund alle 2 Jahre) und zusätzlich habe ich in den verwendeten 19Zoll Gehäusen sowieso einen permanenten Luftzug durch die (pro Etage) verbauten 12cm Quirle.

 

Ich habe mir aber auch ein paar schmale Lüfter gekauft (und noch in der Ecke liegen) um den im unraid bei mir eingebauten Adaptec SAS-Kontroller irgendwann mal damit auszustatten. Aktuell habe ich ihm einfach einen 12cm Lüfter direkt vor den 'Hintern' gestellt.

 

3 minutes ago, zero_neverload said:

 

Ich denke der Luftstrom der 3 internen Lüfter sollte genügen oder?

 

Lüfter sind sehr unterschiedlich. Ich kann Dir nicht sagen ob der (vielleicht sogar gedrosselte) Luftstrom mir unbekannte Lüfter durchgehend diese SAS Karte ausreichend erreicht und genug Wärme abführt oder nicht.

Sorry, meine hellseherischen Fähigkeiten habe ich nicht wirklich soweit entwickeln können. 😅

 

3 minutes ago, zero_neverload said:

Meine Bifurcation NVME Card ist auch schön gekühlt im 1. PCIE Slot.

Persönliche Meinung oder objektiv gemessen?

 

3 minutes ago, zero_neverload said:

C2 und C3 States kennt der Supermicro bei mir jetzt aktuell garnicht.

 

Kannst ja mal nachsehen, was bei raus kommt, wenn Du den 9300 einsetzt.

 

3 minutes ago, zero_neverload said:

Könntest du noch auf die Frage zur Anbindung der Backplane sagen ob ich noch ein Kabelset bestellen muss oder ob das eine ausreichend ist?

 

Ein standard SFF Kabel (pro SFF Anschluß auf dem SAS Kontroller) für 6GB oder schneller mit den passenden Steckern reicht.

Zu den GPIO Fähigkeiten kann ich aber nichts sagen. Die lasse ich in der Regel links liegen.

 

Link to comment
5 minutes ago, DataCollector said:

Ich habe mir aber auch ein paar schmale Lüfter gekauft (und noch in der Ecke liegen) um den im unraid bei mir eingebauten Adaptec SAS-Kontroller irgendwann mal damit auszustatten. Aktuell habe ich ihm einfach einen 12cm Lüfter direkt vor den 'Hintern' gestellt.

Ich werde es mal testen wenn die karte da ist.

5 minutes ago, DataCollector said:

Lüfter sind sehr unterschiedlich. Ich kann Dir nicht sagen ob der (vielleicht sogar gedrosselte) Luftstrom mir unbekannte Lüfter durchgehend diese SAS Karte ausreichend erreicht und genug Wärme abführt oder nicht.

Sorry, meine hellseherischen Fähigkeiten habe ich nicht wirklich soweit entwickeln können. 😅

Im Supermicrogehäuse ist es immer sehr kühl bei mir. (25-30 Grad) 

5 minutes ago, DataCollector said:

 

Persönliche Meinung oder objektiv gemessen?

Naja die Verbaute NVME ist im Normalbetrieb mit laufenden Dockern so bei 25 Grad und bei Vollast (Kopiervorgang) bei 50 - 55 Grad

5 minutes ago, DataCollector said:

Kannst ja mal nachsehen, was bei raus kommt, wenn Du den 9300 einsetzt.

Ja da bin ich wirklich sehr gespannt ob der Kauf etwas gebracht hat, oder ob ich Geld verbrant habe.

5 minutes ago, DataCollector said:

Ein standard SFF Kabel (pro SFF Anschluß auf dem SAS Kontroller) für 6GB oder schneller mit den passenden Steckern reicht.

Zu den GPIO Fähigkeiten kann ich aber nichts sagen. Die lasse ich in der Regel links liegen.

 

Ok dann weiss ich da bescheid.

Link to comment
10 hours ago, zero_neverload said:

Reicht es dann weiterhin, dass ich mit dieserneinen Peitsche an die Backplane gehe, oder muss dann ein weites Kabel verbunden werden?

 

Bei mir ist das ein SFF-8643/SFF-8087 Kabel. Was hattest Du noch mal für eine Backplane?

 

Ausgang 9300-8i: 8643 (intern)

Eingang Backplane: 8087 (BPN-SAS2-EL)

 

Link to comment
Posted (edited)
9 hours ago, hawihoney said:

 

Bei mir ist das ein SFF-8643/SFF-8087 Kabel. Was hattest Du noch mal für eine Backplane?

 

Ausgang 9300-8i: 8643 (intern)

Eingang Backplane: 8087 (BPN-SAS2-EL)

 

Die Backplane müsste diese sein:
SUPERMICRO BPN-SAS3-846EL1 SAS3 12GBPS EXPANDER BACKPLANE (Hab schon mehrfach versucht Fotos zu machen und gehoft irgendwo was zu erkennen) Bin mir aber ziemlich sicher das es die ist, wegen der Anordung der Stromstecker.
image.thumb.png.1724ee8f8a63464486aacda621d72875.png

 

image.png.59c6c876b5184597c6cb631c4d18f6f5.png

Sieht für mich auch nach SFF-8643 aus (aber ich mag mich auch irren)🤯


Der noch verbaute Controller ist der hier:
LSI MegaRAID SAS-3 3108 [Invader] (rev 02))

Und das Kabel sieht so aus:
image.png.040505878187ca6b222ce1f4f61798cf.png

Edited by zero_neverload
Link to comment
43 minutes ago, zero_neverload said:

SUPERMICRO BPN-SAS3-846EL1 SAS3 12GBPS EXPANDER BACKPLANE

 

Entgegen dessen, was ich dachte aus vorherigen Beiträgen entnommen zu haben, ist das eine 12GB Backplane.

 

Auf Deiner Zeichnung ist ein optionaler Secondary Expander zu erkennen. Ist der bei Dir auch verbaut? (= extra Stromverbrauch)

 

43 minutes ago, zero_neverload said:

image.png.59c6c876b5184597c6cb631c4d18f6f5.png

Sieht für mich auch nach SFF-8643 aus (aber ich mag mich auch irren)🤯

 

Ja, das sind SFF-8643 Steckverbinder. Diese können mit 6GB oder auch 12GB betrieben werden.

 

43 minutes ago, zero_neverload said:

LSI MegaRAID SAS-3 3108 [Invader] (rev 02))

 

Das ist keine Megararidbezeichnung, sondern die Bezeichnung des verbauten Chips im Megaraid.

https://docs.broadcom.com/docs/LSISAS3108

Das ist ein 12GB Chip.

Und der sitzt (oh Wunder) auf den Broadcom MegaRAID SAS 9361-8i drauf.

https://geizhals.de/broadcom-megaraid-sas-9361-8i-lsi00417-a1037343.html

Wie schon gelegentlich erwähnt: in meinen Windowsmaschinen machen die -8i und -16i Megaraids einen super Dienst, sind aber für unraid eben ungeeignet, weil es eben Raidkontroller ohne HBA Funktion sind.

Wenn man bei SAS bleiben will, kann man den eben gegen den auch schon erwähnten

Broadcom SAS 9300-8i

https://geizhals.de/broadcom-sas-9300-8i-lsi00344-a976112.html

ersetzen und hat da dann auch 12GB SAS.

Die Anschlüsse in Richtung SAS Expander/Backplate sind gleich.

 

Einen Kontroller raus, anderen Kontroller rein, SAS/SFF Kabel umstecken. Betriebsbereit.

Link to comment
14 minutes ago, DataCollector said:

 

Entgegen dessen, was ich dachte aus vorherigen Beiträgen entnommen zu haben, ist das eine 12GB Backplane.

 

Auf Deiner Zeichnung ist ein optionaler Secondary Expander zu erkennen. Ist der bei Dir auch verbaut? (= extra Stromverbrauch)

Ich glaube bei mir nur einer. (BPN-SAS3-846EL1)

Auf der BPN-SAS3-846EL2 sind soweit ich weiss zwei verbaut.

14 minutes ago, DataCollector said:

Ja, das sind SFF-8643 Steckverbinder. Diese können mit 6GB oder auch 12GB betrieben werden.

DAs heisst ein zweites Kabelset würde nochmal die Backplane mit weiteren 6GB befeuern. (ist für mich aktuell nicht relevant)

14 minutes ago, DataCollector said:

 

Das ist keine Megararidbezeichnung, sondern die Bezeichnung des verbauten Chips im Megaraid.

https://docs.broadcom.com/docs/LSISAS3108

Das ist ein 12GB Chip.

Und der sitzt (oh Wunder) auf den Broadcom MegaRAID SAS 9361-8i drauf.

https://geizhals.de/broadcom-megaraid-sas-9361-8i-lsi00417-a1037343.html

Wie schon gelegentlich erwähnt: in meinen Windowsmaschinen machen die -8i und -16i Megaraids einen super Dienst, sind aber für unraid eben ungeeignet, weil es eben Raidkontroller ohne HBA Funktion sind.

Wenn man bei SAS bleiben will, kann man den eben gegen den auch schon erwähnten

Broadcom SAS 9300-8i

https://geizhals.de/broadcom-sas-9300-8i-lsi00344-a976112.html

ersetzen und hat da dann auch 12GB SAS.

Die Anschlüsse in Richtung SAS Expander/Backplate sind gleich.

Ok wusste ich nicht, hatte die Daten aus Unraid geholt (klar das er da nur den Chip angibt)

14 minutes ago, DataCollector said:

 

Einen Kontroller raus, anderen Kontroller rein, SAS/SFF Kabel umstecken. Betriebsbereit.

Ich freue mich schon auf den Controller.😊

Link to comment
1 minute ago, zero_neverload said:

DAs heisst ein zweites Kabelset würde nochmal die Backplane mit weiteren 6GB befeuern. (ist für mich aktuell nicht relevant)

 

Wenn die SAS-Kontroller 12GBit/s sind und die SAS Kabel 12GBit/s sind und die SAS-Backplate mit ihrem SAS Expander auch 12GBit/s macht, dann befeuert jedes Kabel dazwischen vom Kontroller zur Backplate pro Line mit 12GBit/s.

Normale SFF Steckverbinder haben in der Regel 4 Lines, also werden hier mit einem solchen Kabel 48GBit/s transferiert.

Ein zweites solches Kabel würde nochmal 48GBit/s bieten = Summe 96GBit/s = ca. 12GByte/s.

Was eine PCIe 3.0 x8 HBA Steckkarte mit rund 8GByte/s sowieso nicht leisten kann.

 

Link to comment
2 hours ago, DataCollector said:

 

Wenn die SAS-Kontroller 12GBit/s sind und die SAS Kabel 12GBit/s sind und die SAS-Backplate mit ihrem SAS Expander auch 12GBit/s macht, dann befeuert jedes Kabel dazwischen vom Kontroller zur Backplate pro Line mit 12GBit/s.

Normale SFF Steckverbinder haben in der Regel 4 Lines, also werden hier mit einem solchen Kabel 48GBit/s transferiert.

Ein zweites solches Kabel würde nochmal 48GBit/s bieten = Summe 96GBit/s = ca. 12GByte/s.

Was eine PCIe 3.0 x8 HBA Steckkarte mit rund 8GByte/s sowieso nicht leisten kann.

 

Ach pro Line 12GB....das ist krass. Ich dachte der Teilt das dann irgendwie auf, welche HD gerade am mesiten braucht.

 

Wusste ich nicht.

 

Kann ich mit dem freien Port sowas noch anschließen?
image.png.5087e4e84b0797776ee1ab309628f637.png

image.png.952b4d566dbe97582b6012874c82f9a6.png

 

Bin ich eben bei Ebay drüber gestolpert.

Link to comment
4 hours ago, zero_neverload said:

Ich glaube bei mir nur einer. (BPN-SAS3-846EL1)

Auf der BPN-SAS3-846EL2 sind soweit ich weiss zwei verbaut.

 

Ich habe keine SAS3 Backplane, leite das also aus der Doku ab.

 

SAS3 Modelle haben 4 (EL1) oder 8 (EL2) SFF-8643 Anschlüsse in Paaren angeordnet. Jedes Paar kann wahlfrei Eingang oder Ausgang sein. Der (EL1) oder die (EL2) Expander verhalten sich quasi wie Switche. Schließ einfach beide Ausgänge des 9300-8i an ein Paar der EL1 Backplane an. 

 

EL2 ist für Failover gedacht (z.B. 2 HBAs, einer fällt aus)

 

EL1 und EL2 können kaskadieren (mehrere Backplanes hintereinander geschaltet)

 

EL2 kann somit beides (mehrere Backplanes kaskadieren und Failover mit 2 HBAs)

 

Doku zur Backplane hier:

https://www.supermicro.com/manuals/other/BPN-SAS3-846EL.pdf

 

Diese Kombination ist professionelles Server Equipment.

 

Link to comment
2 hours ago, zero_neverload said:

Ach pro Line 12GB....das ist krass. Ich dachte der Teilt das dann irgendwie auf, welche HD gerade am mesiten braucht.

 

Das verteilen macht der Expander in der Backplate. Der Kontroller selber feuert auf allen angeschlossenen Lines mit dem, was maximal möglich erscheint.

 

2 hours ago, zero_neverload said:

Kann ich mit dem freien Port sowas noch anschließen?

 

Nein.

SAS ist SAS.

 

Das, was Du entdeckt hast ist ein NVMe/PCIe Adapter, welcher die selben Steckverbinder nutzt. Aber funktionieren wird das am LSI 9300-8i nicht. (Beherrscht Dual protokolle = SAS und SATA)

Dazu hättest Du eine der neueren Versionen kaufen müssen. die 9400 oder 9500 sind (so glaube ich mich zu erinnern) Tri-protokoll fähig. (Tri = SAS, SATA und NVMe)

 

Bei ebay gibt es noch viel lustigere Sachen in der Richtung:

https://www.ebay.de/itm/256334927426

Hier wird ein ganz normaler PCIe Slot in einen SFF Anschluß verwandelt um dann dad PCIe Signal irgendwohin im PC transportieren zu können. Sowas ermöglicht dann acuch NVMe/PCie SSD in Wechselrahmen in der Front eines PC zu platzieren.

Aber wie oben schon erwähnt. Nur, weil die die selben SFF Steckverbinder nutzen, transportieren die nicht die selben/kompatiblen Signale/Protokolle.

Link to comment
1 hour ago, DataCollector said:

Nein.

SAS ist SAS.

ah ok, ärgerlich.

1 hour ago, DataCollector said:

Das, was Du entdeckt hast ist ein NVMe/PCIe Adapter, welcher die selben Steckverbinder nutzt. Aber funktionieren wird das am LSI 9300-8i nicht. (Beherrscht Dual protokolle = SAS und SATA)

Dazu hättest Du eine der neueren Versionen kaufen müssen. die 9400 oder 9500 sind (so glaube ich mich zu erinnern) Tri-protokoll fähig. (Tri = SAS, SATA und NVMe)

Wäre nur eine alternative für späteren ersatz meines Bifurcation NVME Controllers gewesen, falls ich mal das Board/System gewechselt hätte.

 

Kann man mit so einem Tri Controller wenigstens mehrer von den Dingern anschließen (in Reihe / Daisy Chain), oder nur einen solcher NGF Adapter?

 

1 hour ago, DataCollector said:

 

Bei ebay gibt es noch viel lustigere Sachen in der Richtung:

https://www.ebay.de/itm/256334927426

Hier wird ein ganz normaler PCIe Slot in einen SFF Anschluß verwandelt um dann dad PCIe Signal irgendwohin im PC transportieren zu können. Sowas ermöglicht dann acuch NVMe/PCie SSD in Wechselrahmen in der Front eines PC zu platzieren.

Aber wie oben schon erwähnt. Nur, weil die die selben SFF Steckverbinder nutzen, transportieren die nicht die selben/kompatiblen Signale/Protokolle.

Irgendwie verwirrend und da soll ein Normaler Mensch mal durchblicken.🤯

 

Zum Glück gibt es Leute wie euch, die einem (leider) die ernüchternden Warheiten erklären, worfür ich immer Dankbar bin.👍

Gut das ich gefragt hatte, sonst hätte ich wieder mal 15€ versenkt.😊

 

Wer weiss wieviel Leistung der HBA mit Tri Funktion an Watt gefressen hätte.

Link to comment
4 hours ago, zero_neverload said:

Wäre nur eine alternative für späteren ersatz meines Bifurcation NVME Controllers gewesen, falls ich mal das Board/System gewechselt hätte.

 

Das verstehe ich jetzt nicht.

 

4 hours ago, zero_neverload said:

Kann man mit so einem Tri Controller wenigstens mehrer von den Dingern anschließen (in Reihe / Daisy Chain), oder nur einen solcher NGF Adapter?

 

Kaskadieren ohne aktive Technik geht bei PCIe/NVMe nicht. Aber die tricksen damit, daß man anstatt x4 Lanes  dann eher x2 Laned zur SD führt. Somit kann man sternförmig mit Kabeladaptern eben doppelt so viele SSD mit je halber Spitzenleistung anschließen.

Aber die Details mußt Du Dir ggf. selber durchlesen.

https://www.broadcom.com/products/storage/host-bus-adapters

Aber nur so zur Info: Wenn Du an einem PCIe Anschluß mir der Kapazität von beispielsweise PCIE 3.0 x8  mehrere PCIE/NVMe Devices anschließen willst als PCIe 3.0 x8 eigentlich her gibt bist Du eben bei der PCIe Switchtechnik, die recht energieintensiv ist.

Dazu habe ich mal eien FAQ verfaßt:

https://forums.unraid.net/topic/136886-faq-pcie-switche-grundlagen-historie-einsatzgebiete-relevanz-für-unraid-ver-12/

 

4 hours ago, zero_neverload said:

Irgendwie verwirrend und da soll ein Normaler Mensch mal durchblicken.🤯

 

Eigentlich nicht so schwierig:

Das, was diese billigen Ebay Adapter (ohne aktive Technik) machen ist nichts anderes als ein PCIe .2 Adapter auch macht. Nur kann man da eben einfache (und im Markt billig verfügbare) Kabel anschließen.

Das ist im weiteren Siche eine (nicht standardtisierte) Erweiterung der U.2 Schnittselle.

 

Das ist genauso, wie es PCIe Adapter gibt, die sich USB Steckverbindern bedient (aber die Praxis hat gezeigt, daß alles oberhalb PCIe 1.0 mit USB Steckverbindern nur unzuverlässig funktioniert).

https://www.ebay.de/itm/235319132235

https://www.ebay.de/itm/154429575987

https://www.ebay.de/itm/154420382745

 

Auch kann ein USB Steckvebindet nur für maximal eine Lane verwendet werden. Bei den SFF Steckverbindern hingegen sind auch höhere Frequenzen machbar und immer gleich 4 Lanes, was den Anschlußfähigkeiten einer heute üblichen NVME SSD entspricht.

 

Wenn man dafür gleich ganz andere/neue neue Stecker und Kabel erfunden hätte würde sowas gleich exorbitant teurer werden, weil es eben nur in geringer Stückzahl benötigt wird.

Das sieht man schon bei der echten U.2 Steckertechnik: die Kabel dazu sind zwar im Preis stark gefallen

https://www.ebay.de/itm/175779281579

Aber wenn man da Wechselrahmen oder so für kaufen will, geht das schon wieder ins Geld.

 

4 hours ago, zero_neverload said:

Wer weiss wieviel Leistung der HBA mit Tri Funktion an Watt gefressen hätte.

 

Da empfehle ich die Datenblätter bei LSI mal durchzustöbern.

 

Ich glaube mich mal zu erinnern, daß mgutt von einem der neueren Kontroller schrieb, der überraschend wenig Strom geschluckt haben soll, (ist eben eine ganz neue Chiptechnik), aber dafür ist die Technik eben noch so neu, daß es die im Gebrauchtmarkt nur selten gibt und die Preise eben doch noch sehr hoch sind.

 

Schau mal bei www.gh.de nach den 9400, 9500 und 9600 Kontrollern.

Achja, bei den 9500 und 9600 wurden wieder andere Steckverbinder eingesetzt (SFF-8654). Da kannst Du Deine Kabel dann gleich mit austauschen.

https://www.broadcom.com/products/storage/host-bus-adapters/sas-nvme-9500-8i

(Zum Strombedarf: 9500-8i nur eher sparsame 5.96W)

https://www.broadcom.com/products/storage/host-bus-adapters/sas-nvme-9600-16i

(Zum Strombedarf: Laut Specs rund 17W für einen 9600-16i)

Edited by DataCollector
Link to comment

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.
Note: Your post will require moderator approval before it will be visible.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...