/ Forside / Teknologi / Hardware / Server / Nyhedsindlæg
Login
Glemt dit kodeord?
Brugernavn

Kodeord


Reklame
Top 10 brugere
Server
#NavnPoint
dk 1398
EXTERMINA.. 1330
webnoob 1267
o.v.n. 820
stone47 800
Klaudi 720
severino 580
granner01 580
rotw 500
10  Uffe29 470
Fileservere - media
Fra : Jesper Nielsen


Dato : 07-03-03 03:58

Hej ng!

En virksomhed skal have opstillet (i begyndelsen, med tiden flere) 1
filserver, som skal indeholde mange (de satser på 1000 pr. filserver)
Windows Media filer på omkring 650 MB stykket. Der vil fra starten være 2
Windows Media servere til at servere filmene for brugerne, og det forventes,
at der vil være omkring 100 samtidige seere fra kort tid efter opsætningen.

Mine spørgsmål går på, om IDE diske i et striped setup vil kunne levere
dataene hurtigt nok? Eller skal man op i de meget dyrere SCSI diske (det
ville være en stor udgift, da der skal være min. 800 GB diskkapacitet i hver
filserver.)
Hvor hurtigt kan man med rimelighed forvente, at IDE diskene ville kunne
levere i et striped setup (gigabit netværk)?

Hvad med RAM og processor i en filserver? Er det af afgørende betydning for
serverens performance, hvis ellers man sørger for, at netkortet i serveren
er et serverkort? Filserverne skal højst sandsynligt køre en BSD eller Linux
variant med samba, og ellers et minimum af andre services.

Andre ting, som kan være vigtige at tænke på i forbindelse med valg af
hardware til filservere?

--
Mvh. Jesper



 
 
Hans Joergensen (07-03-2003)
Kommentar
Fra : Hans Joergensen


Dato : 07-03-03 09:03

Jesper Nielsen wrote:
> En virksomhed skal have opstillet (i begyndelsen, med tiden flere) 1
> filserver, som skal indeholde mange (de satser på 1000 pr. filserver)
> Windows Media filer på omkring 650 MB stykket. Der vil fra starten være 2
> Windows Media servere til at servere filmene for brugerne, og det forventes,
> at der vil være omkring 100 samtidige seere fra kort tid efter opsætningen.

100 samtidlige per server ik?

Hvilken bitrate vil omtalte wm?-filer være i ?

> Mine spørgsmål går på, om IDE diske i et striped setup vil kunne levere
> dataene hurtigt nok? Eller skal man op i de meget dyrere SCSI diske (det
> ville være en stor udgift, da der skal være min. 800 GB diskkapacitet i hver
> filserver.)
> Hvor hurtigt kan man med rimelighed forvente, at IDE diskene ville kunne
> levere i et striped setup (gigabit netværk)?

Hvis det er to diske der er stripet gætter jeg på omkring 40meg per sec ..
men det er så kun med en bruger på, søgetiden vil sænke farten voldsomt.

fire diske i raid0 burde kunne trække det, specielt hvis der er
noget ordentligt cache imellem pladerne i disken og brugeren ;)

> Hvad med RAM og processor i en filserver? Er det af afgørende betydning for
> serverens performance, hvis ellers man sørger for, at netkortet i serveren
> er et serverkort? Filserverne skal højst sandsynligt køre en BSD eller Linux
> variant med samba, og ellers et minimum af andre services.

Desto mere ram, desto mere cache, og mere cache er godt.
Jeg ved ikke helt hvor slem samba er ved CPUen, måske andre ved det?
Personligt ville jeg dog bruge et dual-setup til sådan en maskine.

> Andre ting, som kan være vigtige at tænke på i forbindelse med valg af
> hardware til filservere?

Gode controllere, og god backup... ? :)

// Hans
--
http://ph33r.dk - It sucks :)
UNIX Admin søger arbejde http://www.nathue.dk/?page=cv

Jesper Nielsen (07-03-2003)
Kommentar
Fra : Jesper Nielsen


Dato : 07-03-03 10:58

> 100 samtidlige per server ik?

Nej, 100 totalt, og antallet forventes at stige jævnt.


> Hvilken bitrate vil omtalte wm?-filer være i ?

Der vil være forskellige bitrates i alle Windows Media 9 Series filerne. Dem
vi overvejer er 43, 148, 340 og måske 548 Kbps. Det giver samlet ca. 3,9 MB
pr. minuts film eller 7,9 MB hvis 548 kbps også vælges.


> Hvis det er to diske der er stripet gætter jeg på omkring 40meg per sec ..
> men det er så kun med en bruger på, søgetiden vil sænke farten voldsomt.
>
> fire diske i raid0 burde kunne trække det, specielt hvis der er
> noget ordentligt cache imellem pladerne i disken og brugeren ;)

Jeg havde tænkt på et raid 0 setup med 6,7 eller 8 160 GB diske i stil med
denne:
http://www.proconsult.dk/katalog/m_sto/s_sto-hdd/hdd-ide2/hdmax-dmp9p-160.ht
ml
eller denne:
http://www.proconsult.dk/katalog/m_sto/s_sto-hdd/hdd-ide2/hdwd1800jb.html
(hvilket godt nok er 180 GB diske.)
Ville det være et dårligt valg? Eller ville det være bedre at gå efter flere
mindre diske?


> Desto mere ram, desto mere cache, og mere cache er godt.
> Jeg ved ikke helt hvor slem samba er ved CPUen, måske andre ved det?
> Personligt ville jeg dog bruge et dual-setup til sådan en maskine.

Planen var 1 GB RAM i filserveren og 512 MB i WMS 9 serverne.
Det ville selvfølgelig ikke påføre en meget større udgift at sætte 2
processorer i filserveren.


> Gode controllere, og god backup... ? :)

Kan du anbefale nogle controllere?

Backuppen bliver ikke noget problem. Alle filmene vil blive brændt ned på
DVD i to kopier, lige når de er blevet encoded og efterfølgende placeret på
to fysisk adskilte lokationer (bliver sikkert noget med 1 kopi i huset, 1
kopi i en bankboks eller sådan noget.)



Hans Joergensen (11-03-2003)
Kommentar
Fra : Hans Joergensen


Dato : 11-03-03 13:55

Jesper Nielsen wrote:
>> 100 samtidlige per server ik?
> Nej, 100 totalt, og antallet forventes at stige jævnt.

Okay, lyder temmelig tungt.

>> Hvilken bitrate vil omtalte wm?-filer være i ?
> Der vil være forskellige bitrates i alle Windows Media 9 Series filerne. Dem
> vi overvejer er 43, 148, 340 og måske 548 Kbps. Det giver samlet ca. 3,9 MB
> pr. minuts film eller 7,9 MB hvis 548 kbps også vælges.

> Ville det være et dårligt valg? Eller ville det være bedre at gå efter flere
> mindre diske?

Jeg ville ihvertfald gå efter mindre diske, hastigheden vil blive
højere med mange hoveder.

Alternativt er der jo også muligheden raid0+1, hvilket burde give
høj læse/søgehastighed, kloge raid0+1-systemer burde have dobbelt så
høj læsehastighed i forbindelse med mange brugere.

Problemet med raid0+1 er at du skal bruge det dobbelte antal diske.

>> Desto mere ram, desto mere cache, og mere cache er godt.
>> Jeg ved ikke helt hvor slem samba er ved CPUen, måske andre ved det?
>> Personligt ville jeg dog bruge et dual-setup til sådan en maskine.
> Planen var 1 GB RAM i filserveren og 512 MB i WMS 9 serverne.
> Det ville selvfølgelig ikke påføre en meget større udgift at sætte 2
> processorer i filserveren.

Faktisk er dual-cpu så billigt at det næsten ikke kan betale sig
ikke at købe det, ikke hvis performance er vigtigt ihvertfald.

>> Gode controllere, og god backup... ? :)
> Kan du anbefale nogle controllere?

Desværre ikke, men 3ware er vist en mulighed, de skulle lave nogle
pænt gode controllere.

// Hans
--
http://ph33r.dk - It sucks :)
UNIX Admin søger arbejde http://www.nathue.dk/?page=cv

Thomas V. Nielsen (07-03-2003)
Kommentar
Fra : Thomas V. Nielsen


Dato : 07-03-03 15:46

> Andre ting, som kan være vigtige at tænke på i forbindelse med valg af
> hardware til filservere?

Har du tænkt over din backup, hvad hvis der står en disk af, så skal du hen
og sætte en ny disk i og restore det hele, det tager lang tid at restore 650
GB, der vil du have en fordel ved at køre RAID 5.

Mvh
Thomas



Jesper Nielsen (07-03-2003)
Kommentar
Fra : Jesper Nielsen


Dato : 07-03-03 19:59

> Har du tænkt over din backup, hvad hvis der står en disk af, så skal du
hen
> og sætte en ny disk i og restore det hele, det tager lang tid at restore
650
> GB, der vil du have en fordel ved at køre RAID 5.

Ja, eller RAID 0+1. Giver det ikke bedre ydelse end RAID 5?



Thomas V. Nielsen (08-03-2003)
Kommentar
Fra : Thomas V. Nielsen


Dato : 08-03-03 10:09


"Jesper Nielsen" <jn@nielsenit.dk> skrev i en meddelelse
news:1Z5aa.114230$Hl6.10436942@news010.worldonline.dk...
> > Har du tænkt over din backup, hvad hvis der står en disk af, så skal du
> hen
> > og sætte en ny disk i og restore det hele, det tager lang tid at restore
> 650
> > GB, der vil du have en fordel ved at køre RAID 5.
>
> Ja, eller RAID 0+1. Giver det ikke bedre ydelse end RAID 5?
>
>
Jo men du får kun den halve udnyttelse af dine diske.

Mvh
Thomas



Rune Friis Jørgensen (11-03-2003)
Kommentar
Fra : Rune Friis Jørgensen


Dato : 11-03-03 04:00

Det du skal bruge er et system med a) Meget plads og b) mange I/O pr, sekund
(mange samtidige forespørgsler)

Da du skal bruge meget plads (800 GB) vil en SCSI løsning koste ca 40.000,-
(SCSI er sat til 50 kr. / GB)
en IDE-løsning vil koste ca. 8.000,- i harddiske.

SCSI løsningen vil selvfølgelig være bedst, da en SCSI-disk typisk har
dobbelt så høj I/O-performance i forhold til IDE-diske. Men det er værd at
undersøge IDE-løsningen.

For at få så meget plads, skal vi under alle omstændigheder have mange
diske, og med mange diske følger høj I/O !

Jeg synes du skal slå et smut over forbi www.storagereview.com eller
www.anandtech.com og læse nogle af deres reviews.

Det primære du skal kigge efter er hvor voldsomt overførselshastigheden
falder når der er mange samtidige forespørgsler.
I en test af raid-kort, havde de med med 64 samtidige brugere en
overførselshastighed på ca. 1 MB pr. sekund!
Med 16 eller 128 samtidige brugere, ændrer billedet sig ikke tilstrækkeligt
til at dette er vejen frem.

Du skal under INGEN OMSTÆNDIGHEDER KØRE RAID for at opnå hastigheder, da
Raid'ets performance mål i I/O pr. sekund ikke er højere end den enkelte
disk. Bevares, overførselshastigheden ved en bruger er højere, men det er
irrelevant.

For at løse dit problem, har jeg tilladt mig at sætte nogle forudsætninger
op:

Antal samtidige brugere: 100 (systemet bør konstrueres så det er let at
skalere)
Filers bitrate: 43 - 548 (jeg regner med 500, for at være på den sikre side,
og med tanke på at alle nye filmklip højst sandsynligt vil blive lavet i den
høje kvalitet)

Samlet krav til båndbredde: 50 Mbit / s

svarende til lidt over 6 MB/s, altså ingen ting ved enkeltbruger målinger
(men det er jo ikke tilfældet her)
Da vi i de nævnte reviews opserverede en maksimal overførsel på 1 MB/s pr.
disk (eller RAID-setup), bør du mindst have 6 diske, hvis vi kan forudsætte
at brugerne fordeler sig jævnt, og vi ikke kræver plads til udviddelse.

Hvis vi regner med 500 kbit/s pr. bruger kan der maksimalt være 16 samtidige
brugere pr. harddisk.
6 harddiske vil således tillade maksimalt 96 brugere!

Jeg ville vælge at købe 12 hardiske og sikre mig at populære filer, og
dermed brugere, var fordelt jævnt ud på diskene.
Såfremt der skal være lidt sikkerhed i setup'et og du ønsker noget Raid1,
bliver det kun endnu flere harddiske.

Hvis ellers der ikke er den store udskiftning i filmklippene, ville det
letteste være at sætte to servere op, en primær du lægger filmene ind på, og
rydder op på, og en backup, der blot er et komplet spejl af den anden.
Du fordeler så brugerne ligeligt på de to servere, således at en server kun
skal håndtere 50 samtidige brugere, og snildt kan nøjes med 6 diske. Vælger
du 160 GB diske, har du 960 GB til rådighed.
Skulle du få brug for mere plads bør du hellere sætte yderligere diske i end
købe større diske.
160 GB diske er også billige målt pr. GB, og mange små diske er som sagt
bedre end få store.

For at forbinde alle disse diske til serveren, ville jeg vælge en kontroller
som 3Ware's 7500-8.
Ved at vælge en 8 ports controller er der jo også plads til 2 ekstra diske
og dermed ekstra brugere.
Du kan jo også bare købe flere små controllere, men med mange I/O pr.
sekund, bør du kun sætte en disk pr. kanal.
Når du en dag skal bruge mere plads, kan det jo være du ved hvilke filer der
sjældent bliver læst, og derfor kan samles på enkelte væsentligt større
diske.
Man kunne sagtens forestille sig 250 GB film, som blev set så sjældent at de
kunne lægges på samme disk.

Med hensyn til resten af serverens komponenter, så kan vi jo beregne at
såfremt filmene kun skal streames, så er 100 Mbit nok, men med den aktuelle
pris på Gbit netkort, så er der vel ikke så meget at betænke sig på.

Hvis du ikke vil have to servere stående, kan du eventuelt overveje at sætte
alle diskene inklusive controllere i samme server, men ved at have to
servere, opnår du jo også lidt sikkerhed.
Laver du så en fælles front-end / load-balancer kan du fortsætte driften med
kun en server. I din load balancer, kan du eventuelt sørge for at nye/meget
populære film (hvis der f.eks. sendes besked om at der er kommet en film fra
julefrokosten)
lægges på ALLE diskene. Så kan systemet tåle at der er 192 brugere på samme
fil.

Når systemet har brug for at kunne servicere endnu flere brugere, ville det
endvidere være nemt at tilføje en ekstra server.

Så altså:
* fælles loadbalancing frontend
* 2 servere med hver 6 diske a 160 GB
* udvides med flere / større diske ved krav om større kapacitet eller lidt
flere brugere
* udvides med flere servere ved krav om mange flere brugere.

Men 2 servere med 6 diske i hver burde kunne klare 150 brugere.
2 servere med 8 diske i hver burde kunne klare 200 brugere.

Selv om systemet i sin endelige konfiguration bliver dyrt (2 servere, 2 dyre
controllere, 6 x 2 diske) at vi nærmer os prisen på SCSI, så mener jeg at
sikkerheden ved at have alt liggende i 2 online versioner (udover din
backup) samt den lette skalering denne løsning tilbyder, gør denne løsning
bedst.

Rune


"Jesper Nielsen" <jn@nielsenit.dk> skrev i en meddelelse
news:CTT9a.113976$Hl6.10384984@news010.worldonline.dk...
> Hej ng!
>
> En virksomhed skal have opstillet (i begyndelsen, med tiden flere) 1
> filserver, som skal indeholde mange (de satser på 1000 pr. filserver)
> Windows Media filer på omkring 650 MB stykket. Der vil fra starten være 2
> Windows Media servere til at servere filmene for brugerne, og det
forventes,
> at der vil være omkring 100 samtidige seere fra kort tid efter
opsætningen.
>
> Mine spørgsmål går på, om IDE diske i et striped setup vil kunne levere
> dataene hurtigt nok? Eller skal man op i de meget dyrere SCSI diske (det
> ville være en stor udgift, da der skal være min. 800 GB diskkapacitet i
hver
> filserver.)
> Hvor hurtigt kan man med rimelighed forvente, at IDE diskene ville kunne
> levere i et striped setup (gigabit netværk)?
>
> Hvad med RAM og processor i en filserver? Er det af afgørende betydning
for
> serverens performance, hvis ellers man sørger for, at netkortet i serveren
> er et serverkort? Filserverne skal højst sandsynligt køre en BSD eller
Linux
> variant med samba, og ellers et minimum af andre services.
>
> Andre ting, som kan være vigtige at tænke på i forbindelse med valg af
> hardware til filservere?
>
> --
> Mvh. Jesper
>
>



Jesper Nielsen (12-03-2003)
Kommentar
Fra : Jesper Nielsen


Dato : 12-03-03 01:29

Hej Rune

> Da du skal bruge meget plads (800 GB) vil en SCSI løsning koste ca
40.000,-
> (SCSI er sat til 50 kr. / GB)
> en IDE-løsning vil koste ca. 8.000,- i harddiske.

Budgettet er desværre ikke ubegrænset, hvorfor jeg har mest kik på en IDE
løsning.


> Jeg synes du skal slå et smut over forbi www.storagereview.com eller
> www.anandtech.com og læse nogle af deres reviews.

Tak for linkene - dem kikker jeg på.


> Det primære du skal kigge efter er hvor voldsomt overførselshastigheden
> falder når der er mange samtidige forespørgsler.
> I en test af raid-kort, havde de med med 64 samtidige brugere en
> overførselshastighed på ca. 1 MB pr. sekund!

Okay - det er bestemt ikke nok...


> For at løse dit problem, har jeg tilladt mig at sætte nogle forudsætninger
> op:
>
> Antal samtidige brugere: 100 (systemet bør konstrueres så det er let at
> skalere)

Det er meget vigtigt.


> Filers bitrate: 43 - 548 (jeg regner med 500, for at være på den sikre
side,
> og med tanke på at alle nye filmklip højst sandsynligt vil blive lavet i
den
> høje kvalitet)

Der er endnu ikke encoded nogen filer.
Alle filer vil blive encoded med alle bitrates, og Media Player vil selv
kunne vælge den korrekte hastighed ud fra brugerens oplysninger. Har
brugeren en 768 kbit forbindelse, vælges 548 kbit versionen, har brugeren
kun en 56 K forbindelse, vælges 43 kbit versionen osv.


> Samlet krav til båndbredde: 50 Mbit / s

Ja, hvis ALLE brugerne streamer med 500 kbit, vilket jeg ikke kunne
forestille mig ville være tilfældet.


> Da vi i de nævnte reviews opserverede en maksimal overførsel på 1 MB/s pr.
> disk (eller RAID-setup), bør du mindst have 6 diske, hvis vi kan
forudsætte
> at brugerne fordeler sig jævnt, og vi ikke kræver plads til udviddelse.

Hvad hvis vi valgte en løsning med 2x6 diske i RAID 1, altså 6 arrays med
mirror?
Ville det være en bedre løsning?
En fordel er i hvertfald, at vi får en bedre datasikkerhed.


> Hvis vi regner med 500 kbit/s pr. bruger kan der maksimalt være 16
samtidige
> brugere pr. harddisk.
> 6 harddiske vil således tillade maksimalt 96 brugere!

Det er nok lige i underkanten for os.


> Hvis ellers der ikke er den store udskiftning i filmklippene, ville det
> letteste være at sætte to servere op, en primær du lægger filmene ind på,
og
> rydder op på, og en backup, der blot er et komplet spejl af den anden.
> Du fordeler så brugerne ligeligt på de to servere, således at en server
kun
> skal håndtere 50 samtidige brugere, og snildt kan nøjes med 6 diske.
Vælger
> du 160 GB diske, har du 960 GB til rådighed.
> Skulle du få brug for mere plads bør du hellere sætte yderligere diske i
end
> købe større diske.
> 160 GB diske er også billige målt pr. GB, og mange små diske er som sagt
> bedre end få store.

Meningen var at optille (i starten) 2 Windows Media servere og (igen i
starten) 1 filserver. Når brugeren så forespørger en fil, genereres der, ud
fra oplysninger i en database, en asx fil indeholdende noget á la dette:

mms://wms1/filserver1/film1.wmv
mms://wms2/filserver1/film1.wmv
mms://wms3/filserver1/film1.wmv
ved RAID 0 løsningen eller
mms://wms1/fs1-hdrive/film1.wmv
mms://wms2/fs1-hdrive/film1.wmv
mms://wms3/fs1-hdrive/film1.wmv
ved RAID 1 (6 arrays) løsningen.

Media Player går så listen igennem, og vælger den første som den kan så
kontakt med. Er wms1 nede, vælges wms2 osv..
ASX filen kan sagtens laves mere avanceret. F.eks. kunne man hente
oplysninger om, hvor mange brugere der pt. er på hver WM server, og så give
den mindst belastede server den højeste prioritet. Hermed opnår man en vis
stabilitetsforøgelse. Der er selvfølgelig stadig en single point of failure
idet der kun er én filserver, men SÅ kritisk er det heller ikke - det
vigtigste er, at vi ikke skal afbryde alle brugere bare fordi MS udsender en
patch (filserveren vil køre FreeBSD eller en Linux variant, og kan oftest
opdateres uden genstart.)


> Man kunne sagtens forestille sig 250 GB film, som blev set så sjældent at
de
> kunne lægges på samme disk.

Ja, det kan man jo evaluere løbende og flytte rundt med filmene for at spare
penge senere.


> Med hensyn til resten af serverens komponenter, så kan vi jo beregne at
> såfremt filmene kun skal streames, så er 100 Mbit nok, men med den
aktuelle
> pris på Gbit netkort, så er der vel ikke så meget at betænke sig på.

Nej, det var også det jeg tænkte.


> Hvis du ikke vil have to servere stående, kan du eventuelt overveje at
sætte
> alle diskene inklusive controllere i samme server, men ved at have to
> servere, opnår du jo også lidt sikkerhed.

Der SKAL være 2 WM servere og 1 filserver fra starten.
På et senere tidspunkt kunne man kikke på at loadbalance det hele med
hardware loadbalancere (ikke fra starten - ordentlige loadbalancere koster
jo en bondegård.)


> Laver du så en fælles front-end / load-balancer kan du fortsætte driften
med
> kun en server. I din load balancer, kan du eventuelt sørge for at
nye/meget
> populære film (hvis der f.eks. sendes besked om at der er kommet en film
fra
> julefrokosten)
> lægges på ALLE diskene. Så kan systemet tåle at der er 192 brugere på
samme
> fil.

Ja, det kan man jo evaluere løbende.


> Når systemet har brug for at kunne servicere endnu flere brugere, ville
det
> endvidere være nemt at tilføje en ekstra server.

En loadbalanced løsning er for dyr, og løsningen med dynamiske ASX filer og
flere WM servere skulle være stabilt nok (i hvert tilfælde i starten.)


> Men 2 servere med 6 diske i hver burde kunne klare 150 brugere.
> 2 servere med 8 diske i hver burde kunne klare 200 brugere.

Hvad tror du 1 filserver med 6 fysiske drev (diske i RAID 1) ville kunne
klare?

--
Mvh. Jesper




Ulrik Lunddahl (12-03-2003)
Kommentar
Fra : Ulrik Lunddahl


Dato : 12-03-03 02:03

"Jesper Nielsen" <jn@nielsenit.dk> wrote:

> Hvad tror du 1 filserver med 6 fysiske drev (diske i RAID 1) ville kunne
> klare?

Det er umuligt at svare på, en Windows Media Server genererer ikke det samme
load som den test suite der er sammenlignet med tidligere i tråden.

At læse 100 x 500kb på et sekund er ikke det samme som at læse 100 x 20Mb på
40 sekunder.

Du kan højest sansynligt begrænse hvor mange reader threads der er på media
serverene, at have 100 reader threads fordu du har 100 samtidige brugere
giver helt sikkert dårlig udnyttelse af storage hardwaren.

Lad os for et tænkt eksempel sige at du har 10 brugere der skal have
streamet en 10MB fil.

Hvis du har 100MB cache i media serveren vi lden hvis den er smart læse de
10 filer sekventielt og dermed opnå en læsehastighed der for en enkelt IDE
disk kan komme op over 20MB/sek, altså den kan fylde cachen på 5 sekunder.

Læser den derimod med 10 tråde samtidigt vil du opleve en meget ringere
hastighed, da det hele går op i søgetid.

Du kan selv prøve det i real life, hvis du finder en PC med 2 fysiske
harddiske:

Kopier en fil fra harddisk A til B = en tråd læser på disk A og en tråd
skriver på disk B.
Kopier en fil fra harddisk A til A = 2 tråde på disk A = meget dårlig
performance.


--
Med Venlig Hilsen

Ulrik Lunddahl - nospam058@lunddahl.dk
My heroes: Heddy Lamar, George Antheil and now also Anders Hejlsberg





Rune Friis Jørgensen (13-03-2003)
Kommentar
Fra : Rune Friis Jørgensen


Dato : 13-03-03 01:42

Først lige et spørgsmål:
Der skal være 1000 filer. Betyder det 250 film i fire forskellige bitrates?
Du skriver at filerne er på 650 MB pr. styk. Det kommer vel an på bitrate?

Hvis vi antager at en film er 90 minutter, vil de fylde:
43 Kbps: 29 MB
148 Kbps: 100 MB
340 Kbps: 230 MB
548 Kbps: 370 MB

Hvordan når du frem til at filerne fylder 650 MB ? og hvor mange er der?
Hvad er dit pladsforbrug?

Og så til dine bemærkninger:

> Hvad hvis vi valgte en løsning med 2x6 diske i RAID 1, altså 6 arrays med
> mirror?
> Ville det være en bedre løsning?
> En fordel er i hvertfald, at vi får en bedre datasikkerhed.

Jeg gentager: Diske i RAID er IKKE hurtigere ved mange små læsninger end 1
enkelt disk er!
Det er meget vigtigt at der er så få brugere pr. disk som muligt.

>
> Der SKAL være 2 WM servere og 1 filserver fra starten.
> På et senere tidspunkt kunne man kikke på at loadbalance det hele med
> hardware loadbalancere (ikke fra starten - ordentlige loadbalancere koster
> jo en bondegård.)
>

En løsning der giver sikkerhed OG performance kunne jo også være;
(da du nu har accepteret at skulle købe 2 x 6 harddiske)
At sætte 6 harddiske i hver WM server, hvor den ene jævnligt kopierer nye
film fra den anden.
>
> Hvad tror du 1 filserver med 6 fysiske drev (diske i RAID 1) ville kunne
> klare?
>

Bedste løsning er at sætte 6 diske i hver server!
Du har altså 2 servere der både er WM-servere og filserver i samme boks.
Såfremt der er et eller andet (for mig uklart) argument for at lægge filerne
på en seperat server i forhold til WM-serveren, ville jeg vælge at have 2
filservere. WM serverne kunne jo så stadig vælge den mindst belastede.

Hver disk burde minimum kunne klare 16 brugere ved højeste bitrate (flere
ved lavere bitrate)
Så kan setuppet klare minimum 192 brugere.

Du opnår sikkerheden ved at have alle film liggende på 2 servere som kan
placeres fysisk adskilt
og det vil være let at opgradere til flere brugere ved at tilføje flere
diske i serverne.

Det burde iøvrigt stadig være muligt at en server i tilfælde af diskfejl
henviser brugeren til den anden server.
Således kan begge servere råde over hinandens filer, men de lokalt placerede
filer har højeste prioritet.
På denne måde har du stadig sikkerhed mod diskfejl.

Såfremt du laver dit setup med 2 WM servere, og 1 filserver, kan du risikere
at miste hele setuppet hvis filserveren går ned.
( Strømforsyningen / CPU / Netkort / Ramfejl )

Med hensyn til performance, så hved jeg ikke hvor meget en stor cache vil
bidrage med, men sikkert en del.
Endvidere vil klienterne vel også selv cache.

Rune



Jesper Nielsen (13-03-2003)
Kommentar
Fra : Jesper Nielsen


Dato : 13-03-03 03:48

> Først lige et spørgsmål:
> Der skal være 1000 filer. Betyder det 250 film i fire forskellige
bitrates?
> Du skriver at filerne er på 650 MB pr. styk. Det kommer vel an på bitrate?

Nej, 1000 filer (film) i fire forskellige bitrates - en WMV fil kan sagtens
indeholde samme film i forskellige bitrates.


> Hvis vi antager at en film er 90 minutter, vil de fylde:
> 43 Kbps: 29 MB
> 148 Kbps: 100 MB
> 340 Kbps: 230 MB
> 548 Kbps: 370 MB
>
> Hvordan når du frem til at filerne fylder 650 MB ? og hvor mange er der?
> Hvad er dit pladsforbrug?

Det var en fejl fra min side - en fil(m) på 90 minutter vil fylde ca. 729
MB.



> > Der SKAL være 2 WM servere og 1 filserver fra starten.
> > På et senere tidspunkt kunne man kikke på at loadbalance det hele med
> > hardware loadbalancere (ikke fra starten - ordentlige loadbalancere
koster
> > jo en bondegård.)
> >
>
> En løsning der giver sikkerhed OG performance kunne jo også være;
> (da du nu har accepteret at skulle købe 2 x 6 harddiske)
> At sætte 6 harddiske i hver WM server, hvor den ene jævnligt kopierer nye
> film fra den anden.

Filmene skal ikke ligge på mere end een server - det er spild af plads og
penge for vort vedkommende.


> Bedste løsning er at sætte 6 diske i hver server!
> Du har altså 2 servere der både er WM-servere og filserver i samme boks.
> Såfremt der er et eller andet (for mig uklart) argument for at lægge
filerne
> på en seperat server i forhold til WM-serveren, ville jeg vælge at have 2
> filservere. WM serverne kunne jo så stadig vælge den mindst belastede.

Det kan godt være, at det ender med, at vi vælger en løsning, hvor vi blot
opsætter en ny WM server, hver gang der er brug for mere plads... Så gælder
det bare om at få fat på controllere osv., som kan klare så mange diske som
muligt.

Blot ville det være billigere at samle alle filmene på centrale filservere,
da 2 WM servere sagtens ville kunne udnytte 1 filserver. Lægger vi filmene
ud på de enkelte WM servere, ville vi højst sandsynligt få en voldsom
overkapacitet, med mindre vi jævnligt evaluerer filmenes popularitet og
flytter rundt.


> Du opnår sikkerheden ved at have alle film liggende på 2 servere som kan
> placeres fysisk adskilt

Det vil ikke komme på tale at placere alle filmene på to servere - det kan
budgettet simpelt hen ikke klare.


> Med hensyn til performance, så hved jeg ikke hvor meget en stor cache vil
> bidrage med, men sikkert en del.

Cache på diskene eller?


> Endvidere vil klienterne vel også selv cache.

Media Player cacher ikke - det er en del af sikkerheden/kopibeskyttelsen i
Windows DRM.
Den henter kun det ned den skal bruge (plus en buffer, såfremt der et
øjeblik opstår congestion et sted mellem server og bruger, så filmen ikke
pludselig stopper.) Således kan man godt opleve, at selvom filmen endnu ikke
er færdig, er der ikke aktivitet på ens netforbindelse.
Men ønsker brugeren at se filmen igen, skal Media Player downloade hele
filmen fra serveren en gang til. Der gemmes SVJV/forhåbentlig ikke noget på
harddisken, når man benytter en Windows Media Server - caching sker kun, når
man benytter HTTP streaming, hvilket ikke vil være tilfældet (pay per
view/pay per minute er ikke muligt over HTTP.)



Rune Friis Jørgensen (14-03-2003)
Kommentar
Fra : Rune Friis Jørgensen


Dato : 14-03-03 00:58


"Jesper Nielsen" <jn@nielsenit.dk> skrev i en meddelelse
news:mjSba.125426$Hl6.11171508@news010.worldonline.dk...
>
> Det var en fejl fra min side - en fil(m) på 90 minutter vil fylde ca. 729
> MB.
>

OK, Jeg var ikke bekendt med at alle bitrates lå i samme fil i WMV-formatet.

>
> Filmene skal ikke ligge på mere end een server - det er spild af plads og
> penge for vort vedkommende.
>

ØH...
Den løsning jeg foreslår nedenfor er da billigere end noget af det du
forestiller dig ! ?
2 WM-servere med hver 6 datadiske og en systemdisk
er da billigere end 2 WM-servere med en systemdisk SAMT en filserver med 12
diske!

>
> > Bedste løsning er at sætte 6 diske i hver server!
> > Du har altså 2 servere der både er WM-servere og filserver i samme boks.
>

Og så skriver du:

> Det kan godt være, at det ender med, at vi vælger en løsning, hvor vi blot
> opsætter en ny WM server, hver gang der er brug for mere plads... Så
gælder
> det bare om at få fat på controllere osv., som kan klare så mange diske
som
> muligt.
>
> Blot ville det være billigere at samle alle filmene på centrale
filservere,
> da 2 WM servere sagtens ville kunne udnytte 1 filserver. Lægger vi filmene
> ud på de enkelte WM servere, ville vi højst sandsynligt få en voldsom
> overkapacitet, med mindre vi jævnligt evaluerer filmenes popularitet og
> flytter rundt.
>

ØH... Jeg forstår ikke... Vil flere WM servere give mere plads ?
Flere WM-servere vil måske give dig mulighed for flere brugere. Nu ved jeg
ikke hvor belastende det er for serveren at være WM-server. Men den største
flaskehals ser jeg nu engang som værende i harddiskenes ydelse.
Og hvis i skal være flere brugere ( over 200 ) og du så mener at du blot
skal sætte en ekstra WM-server op, så for du da endnu sværere ved at sætte
EN filserver op der kan klare det.

Hvis du med plads mener GB-datamængde, så mener jeg ikke der er nogen
forskel på om du skal købe EN ekstra harddisk til hver af de TO WM-servere
eller om du skal købe TO ekstra diske til din filserver ( i mirror )
Her mener jeg kun du får en ulempe, da disse to diske i din filserver
tilsammen yder det samme som EN disk i en WM-server.

Min grundlæggende påstand er at EN disk (eller ET RAID-array) kan bære 16
brugere med 500 Kbps hver.
Den eneste farbare vej til mange brugere er mange harddiske.
At jeg så mener at du skal lægge de samme data på to servere, er
resourcemæssigt ( kroner pr. GB) ikke værre end hvis du vælger at spejle
diskene, men du kan have dobbelt så mange brugere.
Og sikkerheden ved at have filerne placeret på to fysisk adskilte servere er
mere sikkert end at have spejlede diske.
Se min snak om "single-point-of-failure"

>
> Det vil ikke komme på tale at placere alle filmene på to servere - det kan
> budgettet simpelt hen ikke klare.
>

Kan du komme med et billigere altenativ?

>
> Cache på diskene eller?
>
Cache i serveren!

>
> Media Player cacher ikke - det er en del af sikkerheden/kopibeskyttelsen i
> Windows DRM.

Nu kender jeg som sagt ikke det format du vil sende i, men da jeg havde
lavet en lille 90 sekunders videohilsen fra min søns 22 dages fødselsdag og
lagt denne på min server, oplevede jeg da at den hentede ligeså hurtigt den
kunne (langsommere end realtime) og hvis man trykkede "pause" så fortsatte
den.

22 dages fødselsdagshilsen fra Tobias : http://80.62.45.102/Tobias_256.wmv

> - caching sker kun, når
> man benytter HTTP streaming, hvilket ikke vil være tilfældet (pay per
> view/pay per minute er ikke muligt over HTTP.)
>

Så formoder jeg at min lille hilsen er http, til trods for at det er en WMV
fil ?

Spændende projekt i øvrigt. Har i fundet et sted hvor i kan få den
båndbredde der skal til, eller er der tale om et LAN?
Dumt spørgsmål, for jeg kan ikke forestille mig at det er andet end et LAN,
for ellers havde du vel ikke overvejet om det skulle være 100 Mbit eller
Gigabit netkort.
Men hvis det er et LAN, hvor i alverden forventer i at have over 200
samtidige brugere i samme LAN ?

HVIS det er WAN, må man så spørge hvor du finder en Internetopkobling af
denne kaliber, hvor trafikken er til at betale?
Da jeg selv skal til at sætte noget meget båndbredde krævende noget op, har
jeg fundet frem til www.telemetro.dk, men selv om jeg har 100 Mbit
opkobling, skal jeg jo stadig betale for trafikken.
Bevares kun 4.500 pr. måned for 2.530 GB, men det du har gang i der kan da
hurtigt blive voldsomt.
Næste trafikpakke hedder 30.000 GB, og det burde være rigeligt, men der
snakker vi også 20.000 pr. måned, og hvis det er jeres budget, så kan jeg da
slet ikke forstå at i har budgetkvaler mht. at købe serveren!

Lad høre

Rune



Jesper Nielsen (14-03-2003)
Kommentar
Fra : Jesper Nielsen


Dato : 14-03-03 02:48

Hej

> > Det var en fejl fra min side - en fil(m) på 90 minutter vil fylde ca.
729
> > MB.
>
> OK, Jeg var ikke bekendt med at alle bitrates lå i samme fil i
WMV-formatet.


Jeg er ikke sikker på, om man kan gøre det i det ældre asf format, men man
har kunnet gøre det samme i Real Media filer (her kaldes det SureStream.)
Men det er en ret smart ting.

Vi har valgt WM frem for RM pga. RM's horrible licenspriser. Det sidste jeg
hørte var omkring 29.000 USD pr. år for en licens, som kan klare 45 Mbit
eller 49.000 USD pr. år for en ubegrænset licens. Til sammenligning koster
WM kun en Windows Server 2003 licens.


> > Filmene skal ikke ligge på mere end een server - det er spild af plads
og
> > penge for vort vedkommende.
> >
>
> ØH...
> Den løsning jeg foreslår nedenfor er da billigere end noget af det du
> forestiller dig ! ?
> 2 WM-servere med hver 6 datadiske og en systemdisk
> er da billigere end 2 WM-servere med en systemdisk SAMT en filserver med
12
> diske!

Jeg tror, at jeg misforstod dit indlæg tidligere, men tror jeg har forstået
det nu.
2 servere fungerer som "een" vha. dynamisk genererede asx filer, som
henviser til de to (eller flere) WM servere, som den enkelte fil ligger på
(her ser man så på den enkelte WM servers båndbreddeforbrug for at bestemme,
hvilken server der skal have den højeste prioritet.) Var det det du mente?


> > Blot ville det være billigere at samle alle filmene på centrale
> filservere,
> > da 2 WM servere sagtens ville kunne udnytte 1 filserver. Lægger vi
filmene
> > ud på de enkelte WM servere, ville vi højst sandsynligt få en voldsom
> > overkapacitet, med mindre vi jævnligt evaluerer filmenes popularitet og
> > flytter rundt.
> >
>
> ØH... Jeg forstår ikke... Vil flere WM servere give mere plads ?
> Flere WM-servere vil måske give dig mulighed for flere brugere.

Samme misforståelse som ovenfor tror jeg.
Man kunne selvfølgelig starte med at opstille een server, og såfremt
belastningen på denne WM servers diske bliver for høj, kan man begynde at
flytte populære film fra belastede diske til mindre belastede diske. Når den
så ikke går længere, kan man lave en mirrorserver for at forøge kapaciteten
(ikke pladsmæssigt.)
Det tror jeg nok ville være en god løsning.


> Nu ved jeg
> ikke hvor belastende det er for serveren at være WM-server.

Ikke så forfærdeligt belastende.
Jeg har før haft omkring 2.000 samtidige lyttere til en live event (hvor
diskene jo ikke benyttes), hvor serverens CPU'er (dual ~1.2 GHz, 2048 MB
RAM) blev udnyttet ca. 25-35%. Så det kræver næsten intet.


> Min grundlæggende påstand er at EN disk (eller ET RAID-array) kan bære 16
> brugere med 500 Kbps hver.

Altså 1 systemdisk + 7 datadiske = ~112 samtidige brugere, hvis man sørger
for at rokere rundt på filerne med jævne mellemrum.


> Den eneste farbare vej til mange brugere er mange harddiske.
> At jeg så mener at du skal lægge de samme data på to servere, er
> resourcemæssigt ( kroner pr. GB) ikke værre end hvis du vælger at spejle
> diskene, men du kan have dobbelt så mange brugere.

Det kan jeg godt se efter at have kigget på det en ekstra gang.


> Og sikkerheden ved at have filerne placeret på to fysisk adskilte servere
er
> mere sikkert end at have spejlede diske.

Logisk.


> > Cache på diskene eller?
> >
> Cache i serveren!

Er ikke sikker på, om Windows Media Services 9 Series (har ikke sat mig
ordentligt ind i den endnu) har en memory cache, som den kan lægge populære
filer op i, men WMS 4.1 har ikke.
Misforstår jeg dig?


> > Media Player cacher ikke - det er en del af sikkerheden/kopibeskyttelsen
i
> > Windows DRM.
>
> Nu kender jeg som sagt ikke det format du vil sende i, men da jeg havde
> lavet en lille 90 sekunders videohilsen fra min søns 22 dages fødselsdag
og
> lagt denne på min server, oplevede jeg da at den hentede ligeså hurtigt
den
> kunne (langsommere end realtime) og hvis man trykkede "pause" så fortsatte
> den.
>
> 22 dages fødselsdagshilsen fra Tobias : http://80.62.45.102/Tobias_256.wmv

Det er fordi WM Player henter filen fra en HTTP server og ikke fra en
Windows Media server. Havde det været tilfældet, var dette ikke muligt.
URL'en til en fil på en WMS 9 Series er noget á la
mms://server/publishingpoint/fil.wmv - altså en helt anden protokol.
Hvis man "streamer" over HTTP protokollen, har man heller ikke mulighed for
hele tiden at følge med i, hvor mange sekunder af filmen brugeren har set
(og dermed kan man ikke lave betaling pr. set minut.) Man har heller ikke
mulighed for at have flere bitrates i samme fil, og der er en række andre
ting, som man ikke kan benytte sig af.


> Så formoder jeg at min lille hilsen er http, til trods for at det er en
WMV
> fil ?

Jep, filtypen har ikke noget med det at gøre. Det er protokollen (http://
vs. mms://.)
Man kan også downloade din fil ved blot at højreklikke på et link og vælge
gem som... Dette er ikke muligt, hvis filen ligger på en WM server - også en
del af sikkerheden. Der findes muligvis programmer, som kan optage filmene
(jeg ved der eksisterer et program til Real Media, men har ikke hørt om et
lignende program til WM.)


> Spændende projekt i øvrigt. Har i fundet et sted hvor i kan få den
> båndbredde der skal til, eller er der tale om et LAN?

Der er ikke tale om en LAN. Vi har fundet et sted.


> Dumt spørgsmål, for jeg kan ikke forestille mig at det er andet end et
LAN,
> for ellers havde du vel ikke overvejet om det skulle være 100 Mbit eller
> Gigabit netkort.

Da jeg talte om GBIT var der tale om forbindelsen mellem WM serverne og
filserverne, ikke forbindelsen til nettet.


> HVIS det er WAN, må man så spørge hvor du finder en Internetopkobling af
> denne kaliber, hvor trafikken er til at betale?

Jeg kan desværre ikke pt. løfte sløret for, hvor det skal stå, kun at det
bliver i USA (mange af seerne vil være bosat her.)


> Da jeg selv skal til at sætte noget meget båndbredde krævende noget op,
har
> jeg fundet frem til www.telemetro.dk, men selv om jeg har 100 Mbit
> opkobling, skal jeg jo stadig betale for trafikken.
> Bevares kun 4.500 pr. måned for 2.530 GB, men det du har gang i der kan da
> hurtigt blive voldsomt.

Nu skal jeg passe på, at jeg ikke starter en kundeflugt, men...
Telemetro har SVJV sine servere stående hos jay.net.
Et 8 units rackskab koster fra 500 kr. pr. måned og fra 4.000 kr. i
oprettelse. 2.530 GB national trafik (hvilket også er det du snakker om)
koster 2.300 kr. pr. måned. International trafik koster fra 20 kr. pr. GB
(2.000 kr. for 160 GB.)


> Næste trafikpakke hedder 30.000 GB, og det burde være rigeligt, men der
> snakker vi også 20.000 pr. måned, og hvis det er jeres budget, så kan jeg
da
> slet ikke forstå at i har budgetkvaler mht. at købe serveren!

33.000 GB national trafik = 10.000 kr. hos jay.net.
Vi har skam et vist budget, men alligevel skal startudgifterne holdes nede -
der skal jo også være penge til at køre med underskud i en periode, indtil
branded bliver kendt.

Jeg kan dog garantere dig for, at vi slet slet ikke kommer til at betale så
meget for trafikken - gigabyteprisen vil ligge på ca. 0,16 USD (1,12 kr..),
og her skelnes der ikke mellem, om det er national (USA) eller international
trafik - med de priser, danske udbydere generelt har på trafik, ville vi
ikke kunne få forretningen til at løbe rundt.



Rune Friis Jørgensen (14-03-2003)
Kommentar
Fra : Rune Friis Jørgensen


Dato : 14-03-03 04:20


"Jesper Nielsen" <jn@nielsenit.dk> skrev i en meddelelse
news:jxaca.125950$Hl6.11294143@news010.worldonline.dk...
>
> Jeg tror, at jeg misforstod dit indlæg tidligere, men tror jeg har
forstået
> det nu.
> 2 servere fungerer som "een" vha. dynamisk genererede asx filer, som
> henviser til de to (eller flere) WM servere, som den enkelte fil ligger på
> (her ser man så på den enkelte WM servers båndbreddeforbrug for at
bestemme,
> hvilken server der skal have den højeste prioritet.) Var det det du mente?
>

Den enkelte WM-server bør vel kun henvise til den anden server i tilfælde af
diskfejl.

I øvrigt skal den ikke kigge på serverens båndbredde forbrug, da
flaskehalsen ligger i Disk I/O.
Det var derfor jeg tidligere foreslog at populære filer ligger på flere
diske på begge servere.
Kun sådan kan man opnå mere end 32 brugere pr. film.

>
> Man kunne selvfølgelig starte med at opstille een server, og såfremt

EEN SERVER ? Hvad med sikkerhed?

> belastningen på denne WM servers diske bliver for høj, kan man begynde at
> flytte populære film fra belastede diske til mindre belastede diske. Når
den
> så ikke går længere, kan man lave en mirrorserver for at forøge
kapaciteten
> (ikke pladsmæssigt.)
> Det tror jeg nok ville være en god løsning.
>

Bortset fra at du så ikke har sikkerheden online, så er det nok det bedste
indtil du vitterligt har dine 100 samtidige brugere, og så kan du også finde
ud af om gennemsnits bitrates er lavere end de 500 jeg har regnet med, og om
moderne harddiske med 8 MB cache er hurtigere end den ene MB/s jeg har
regnet med ved flere samtidige brugere.

Overførselshastigheden i de test, der gav 1 MB/s er næsten konstant uanset
om der var 16 eller 64 brugere.
Men det var generelt meget små filer, så hvis du med noget fintuning og
hdparm kan tvinge harddisken til at læse lidt frem, kan du måske opnå meget
større hastigheder.

>
> Altså 1 systemdisk + 7 datadiske = ~112 samtidige brugere, hvis man sørger
> for at rokere rundt på filerne med jævne mellemrum.
>

Det er sådan jeg har tolket alle de tests jeg har læst igennem tiderne.




Jesper Nielsen (14-03-2003)
Kommentar
Fra : Jesper Nielsen


Dato : 14-03-03 11:44

> Den enkelte WM-server bør vel kun henvise til den anden server i tilfælde
af
> diskfejl.

Eller hvis den disk, som filen ligger på er meget belastet - det må man også
kunne hive ud vha. et VBScript eller noget.


> I øvrigt skal den ikke kigge på serverens båndbredde forbrug, da
> flaskehalsen ligger i Disk I/O.
> Det var derfor jeg tidligere foreslog at populære filer ligger på flere
> diske på begge servere.
> Kun sådan kan man opnå mere end 32 brugere pr. film.

Jeg tror der går meget lang tid, inden det bliver nødvendigt at den dag
oprinder, hvor 1 enkelt film bliver set af mere end 16 brugere på samme
tid - med mindre selvfølgelig vi får eksklusive kontrakter med producenter
af MEGET populære film.


> EEN SERVER ? Hvad med sikkerhed?
>
> Bortset fra at du så ikke har sikkerheden online, så er det nok det bedste
> indtil du vitterligt har dine 100 samtidige brugere,

Ja, det var også det jeg tænkte - for at holde startudgifterne lidt nede.


> og så kan du også finde
> ud af om gennemsnits bitrates er lavere end de 500 jeg har regnet med, og
om
> moderne harddiske med 8 MB cache er hurtigere end den ene MB/s jeg har
> regnet med ved flere samtidige brugere.

Jeg tvivler kraftigt på, at gennemsnittet vil ligge på 500 kbit - vores
højeste bitrate (548 kbit) kræver trods alt en 768 Kbit forbindelse, hvilket
i sig selv vil begrænse antallet af brugere en del. Men det skal
selvfølgelig være med i vores overvejelser.


> Men det var generelt meget små filer, så hvis du med noget fintuning og
> hdparm kan tvinge harddisken til at læse lidt frem, kan du måske opnå
meget
> større hastigheder.

Ja, det er selvfølgelig værd at kigge på.

Tak for dine kommentarer - nu har jeg lidt mere at gå ud fra.

Mvh. Jesper



Søg
Reklame
Statistik
Spørgsmål : 177558
Tips : 31968
Nyheder : 719565
Indlæg : 6408919
Brugere : 218888

Månedens bedste
Årets bedste
Sidste års bedste