Kapsi BLOG

Peruskartta Android-mobiililaitteilla

Juho Juopperi / 9. helmikuuta 2013

Moottorikelkkaillessa Sirkassa tuli tarve saada kelkkareittikartta mukaan reissuun. Samsung Galaxy Tab 2 7.0 on mainio laite karttakäyttöön, mutta esim. Googlen kartoissa ei ole moottorikelkkareittejä, eikä ihan joka paikassa kuulu 3G. Ainakaan sesonkiaikana on turha kuvitella saavansa 3G:stä dataa läpi karttapaikan katselua ajatellen.

Onneksi Maanmittauslaitos julkaisi mm. peruskartan yleiseen käyttöön. Kartat on peilattu kapsin palvelimille (http://kartat.kapsi.fi/) ja niitä voi käyttää mobiililaitteiden, sekä karttasovellusten yleisesti tukeman WMS-rajapinnan kautta.

Karttojen selailuun soveltuu mainiosti Android-sovellus Orux Maps. Orux Mapsin voi asentaa Googlen Play-palvelusta.

Käynnistä Orux Maps ja valitse oikean yläkulman karttavalikosta valinta ”Switch map”. Avaa karttalistasta ”WMS Creator”.

Syötä WMS-creatoriin osoitteeksi http://tiles.kartat.kapsi.fi/peruskartta?, paina OK, ja valitse esiin ponnahtavasta ikkunasta kaikki karttatasot.

Valitse kaikki karttatasot

Aseta kartan mini- ja maksimizoomit arvoihin 0 ja 20. Valitse myös ”Cacheable” ja ”Downloadable” -valinnat ja paina ”Create”.

Alareunassa lukee ”WMS Created OK”. Palaa karttalistaan painamalla peruutusnäppäintä, päivitä lista painamalla ”Refresh maps” ja valitse ”WMS:Peruskartta”.

Nyt sinulla on säädetty toimiva online-peruskartta! Joskus on kuitenkin tarve käyttää karttaa 3G:n kuulumattomissa. Offline-kartan voi tehdä karttavalikon ”Map Creator” -toiminnolla.

Map Creatorissa valitaan haluttu alue klikkaamalla alueen vasenta yläkulmaa ja oikeaa alakulmaa.

Valitse ladattavat zoomitasot. Tasot 12, 14, 15 ja 16 riittävät eikä ladattavan datan koko kasva liian suureksi.

Kun karttadata on ladattu, peruuta pois Map Creatorista paluunäppäimellä ja valitse karttalistan yläkulmasta ”Offline Maps”. Offline-kartoissa pitäisi näkyä juuri luotu kartta.

Avainsanat: kartat, mml
Aihe: Sekalaista | 44 kommenttia »

Onnea Kapsi!

Jasmin Hulkko / 2. helmikuuta 2013

Kiitos!

Kaikki eivät varmasti tunne yhdistyksen historiaa niin hyvin, että tietäisitte tämän merkityksen. Kaikki eivät ole olleet yhdistyksen toiminnan piirissä niin pitkään, että tämä herättäisi suuria tunteita. Kaikki eivät ole välttämättä tulleet ajatelleeksi niitä lukuisia ilon, surun, tuskan, väsymyksen, riemun, turhautumisen, onnistumisen ja välillä myös ylpeyden aiheita, jotka ovat yhdistyksen matkan varrella kohdanneet niin ylläpitoa, hallintoa kuin yhdistyksen jäsenistöäkin.

Kapsi on tullut toiminnan vakiintuneisuutta kuvaavaan ikään. Kapsi on 10 vuotias.

Kiitos jokaiselle Kapsin jäsenelle! Te tuotte tälle toiminnalle tarkoituksen ja teette tämän mahdolliseksi!

Kiitos yhdistyksen toimihenkilöille! Te olette tehneet omalla panoksellanne yhdistyksestä toimivan kokonaisuuden!

Sekä kiitos kaikille kumppaneille, joiden kanssa Kapsi on saanut toimia ja kasvaa yhdistyksenä nykyiseen muotoonsa!

Kapsin kymmenvuotinen taival on pitänyt sisällään runsaasti tapahtumia ja vaiheita. Itse aloitin Kapsin piirissä puuhastelun liittymällä jäseneksi syksyllä 2004. Tuolloin yhdistykseen kuului noin 200 jäsentä. Oli yhdistyksen toinen toimintavuosi. Liittymisestäni asti, vajaan yhdeksän vuoden ajan Kapsin toiminta on kehittynyt jatkuvasti pienin tasaisin askelin kohti nykyistä tilannetta. Kehitys jatkuu edelleen ja sitä ajaa yksinomaan jäsenistön tarpeet luotettaville, huolella ja taidolla ylläpidetylle alustalle, jonka päälle on hyvä rakentaa itselle merkittäviä palveluita.

Vajaan yhdeksän vuoden aikana Kapsista on muodostunut minulle elämäntapa. Yhdistyksen monimuotoinen toiminta on antanut puitteet omien taitojen kehittymiseen ja verkostoitumiseen IT- ja tietoliikennealan ammattilaisten kanssa. Mielenkiintoista puuhaa löytyy aina, kun sille itseltä löytyy aikaa. Isot ja pienet asiat etenevät päivä päivältä. Kapsi jatkaa kehitystään ja minä pienenä osana kokonaisuutta sen mukana. Suunnataan siis yhdessä kohti seuraavaa vuosikymmentä ja uusia haasteita!

Kiitos Kapsista kuuluu teille kaikille!

Aihe: Yhdistystoiminta | 2 kommenttia »

Ylläpidon tunkkausviikonloppu I/2012

Jon Ekberg / 22. lokakuuta 2012

Kapsin ylläpidossa on reilu tusina hyvinkin tavanomaisen oloista kaveria, joiden intohimon kohteena vain sattuu keskimääräistä useammin olemaan ZFS-levyjärjestelmän tai Linuxin kernelin optimointi tuhansien käyttäjien palvelinjärjestelmään. Ylläpito on se Kapsin elin, joka parhaansa mukaan pitää huolen siitä, että Kapsin jäsenistö pystyy huoletta käyttämään Kapsin palveluita ilman turhia käyttökatkoja tai hidastumisia.

Rutiininomaista ylläpitotyötä tapahtuu päivittäin, ja tähän kuuluu kaikkea palvelupyyntöihin vastaamisesta omituisen muistikuorman selvittämiseen levypalvelimella. Tämä on sitä työtä, joka pitää palvelut ajossa ja Kapsin lipun korkealla. Mutta kuten pitkäaikaisimmat jäseneemme ovat ehkä huomanneet, niin Kapsihan kehittyy jatkuvasti. Uusia palvelimia hankitaan, uusia palveluita nostetaan pystyyn ja olemassa olevia palveluita hiotaan paremmiksi. Tehokkaaksi tavaksi suorittaa tätä työtä on kehittynyt konsepti nimeltään tunkkausviikonloppu.

Bugien metsästystä

Kapsin ylläpito koostuu maantieteellisesti hajautuneesta ryhmästä säätäjiä, joten ylläpidon yhteiset tapaamiset ovat aina hieman työläitä. Mutta kun ne onnistuvat, kuten nyt viikonloppuna, ovat lopputulokset huikeita. Jo alakoulussa opittiin miten saman pöydän ääressä ryhmätöitä tehdessä hommat edistyvät huikeaa vauhtia, ja sama pätee myös täällä. Viikonlopun aikana käytetään 48h tehokkaasti mitä erinäisimpien asioiden hoitamiseen, tiedostopalvelimen debuggauksesta aina virtuaalialustojen päivittämiseen. Välillä otetaan rennommin, saunotaan ja speksataan mitä seuraavassa pyrähdyksessä tehtäisiin – olo on kuin pääsisi seuraamaan ohjelmistoalan startupin toimintaa lähietäisyydeltä.

Kaikenlaista on saatu [aikaan]. –Wraith

Säätäjä + ES = Paremmat palvelut

Hommat jatkuvat pitkälle yöhön, ja viimeiset sammuttavat debuggerinsa vain hieman ennen auringonnousua. Aamulla kaverit ovat palanneet kannettaviensa ääreen jo ennen kuin kahvinkeitintäkään on saatu päälle. Mistä he löytävät energian tähän, voi vain kuvitella.

Mites kauan näiden tekemiseen olis menny normaaliin tapaan IRCin ylitse? Erm… pari vuotta? – Ylläpito

Ylläpito ei osoita kuluneen viikonlopun jälkeen minkäänlaisia väsymisen merkkejä. Liekö syynä ES vaiko onnistunut ruokahuolto – säätäjät haluaisivat vain jatkaa säätämistä. Nämä kaverit ovat yksi monista syistä siihen miksi Kapsi awesomeness on kehittynyt tähän malliin, eikä hidastumisen merkkejä ole näkyvissä.

Aihe: Sekalaista, Ylläpito | Ei kommentteja »

Se yksi kostea juhannus…

Olli Vainio / 20. lokakuuta 2012

Nimittäin tänä vuonna. Toimitilalla.

Juhannusviikolla ennen juhannusta kesätyöntekijä lähti toimitilalta normaalisti töiden jälkeen pois ja kaikki oli ok. Sunnuntaina juhannuksen jälkeen toimihenkilöiden saapuessa paikalle olikin toimitila muuttunut uimaaltaaksi. Lattialla oli paikoin useampi sentti vettä ja rakenteet selvästi kastuneet. FFFFFUUUUUUU.

Tämän juhannuksen jälkeen oli tokikin hyvin ilmeistä, että toimitila tulee olemaan pidemmän aikaa poissa käytöstä. Aiemmin jo olimme harkinneet toimitilan vaihtoa tilanpuutteen vuoksi ja nyt päädyimmekin ratkaisuun, että sama tässä välissä vaihtaa toimitilaa kun kuitenkin joutuu tekemään kaiken uusiksi.

Tuo uuden toimitilan hankinta osoittautuikin sitten astetta haastavammaksi operaatioksi kuin olimme ajatelleet. Jostain syystä vuokranantajat suhtautuivat todella nihkeästi asunnon vuokraamista yhdistykselle toimitilaksi. Aloimme etsiä uutta toimitilaa heti juhannuksen jälkeen ja lopulta uusi toimitila saatiin vuokrattua syyskuun lopulla. Tämän 3 kuukauden aikana tuli kyllä kaikille hyvin ilmeiseksi toimitilan tarpeellisuus.

Neuvottelupuoli uudella toimitilalla. Jotain asennuksia on vielä kesken.

Uusi toimitila on Oulun Kaijonharjussa sijaitseva 51,5 neliön kaksio johon olemme kalustaneet toisen huoneen neuvotteluhuoneen kaltaiseksi tilaksi ja toisen huoneen kalustus on vielä hieman kesken, mutta siitä on tarkoitus tehdä jonkun kaltainen ”säätötila”.

Toinen puoli uudesta toimitilasta on vielä vaiheessa.

Aihe: Yhdistystoiminta | 2 kommenttia »

Cyber Defence Exercise 2012 – CDX12

Jasmin Hulkko / 19. lokakuuta 2012

Tammikuu 2012, IRC-chat, yksityisviesti:

”Haluasikohan Kapsin ylläpito osallistua kybersotaharjotuksen harjotukseen =)”

Näin alkoi eräs hyvin mielenkiintoinen keskustelu, joka johti omaltani sekä yhdistyksen kannalta vieläkin mielenkiintoisempaan tapahtumaketjuun. Meille tarjottiin tilaisuus osallistua kansainväliseen CDX12-kybersotaharjoitukseen pienessä sivuroolissa. Olimme Viron Cyber Defence Leaguen ohella toinen ”koekaniiniryhmä”, jonka tarkoitus oli testata harjoituksen skenaariota sekä infraa noin kuukausi ennen varsinaista harjoitusta.

Helmikuun alku. Harjoituksen testiajo lähestyi. Ylläpidosta kasattiin kymmenen hengen ”Blue Team” osallistumaan harjoitukseen. Erilaisia valmistelevia pohdintoja alettiin pitää mahdollisista tekniikoista, joilla erilaisiin infraa vastaan kohdistuviin verkkohyökkäyksiin voitaisiin parhaalla mahdollisella tavalla vastata. Strategian pohjaksi valittiin tietysti Kapsin oma tietoturvamalli ja samat tekniikat, jotka on käytössä myös yhdistyksen järjestelmien suojaamisessa. Pohdittiin uusia tapoja havainnoida hyökkäyksiä ja löytää järjestelmästä poikkeavuuksia. Koodia syntyi, speksi kehittyi.

All hands on deck!

Ylläpitäjäjoukko saa hälytyksen. Kansallisesti merkittävän Internet-operaattorin järjestelmiin kohdistuu parhaillaan kyberhyökkäys! Operaattorin pääasiallinen ylläpitotiimi on poissa ja tavoittamattomissa. Kasataan porukka, joka ei tunne infraa juuri entuudestaan. Dokumentaatio ei ole ajan tasalla. Verkkokuvista ja järjestelmäkuvauksista on jotain apua tilanteen hahmottamisessa. Omituisia asioita tapahtuu eri puolilla verkkoja.

Kapsin urhoollinen task force kokoontuu saman katon alle, tälläkertaa yhdistyksen pieneksi käyvään toimitilaan, selvittämään tilannetta ja turvaamaan infraa. Osa järjestelmistä on todella vanhoja, päivittämättä ja pahasti haavoittuvia. Tuntemattomassa tilanteessa infra täytyy saada nopeasti haltuun. Mahdollisimman moni julkisesti saatavilla oleva järjestelmä päivitetään ja Linux-kernelit vaihdetaan Kapsin omiin käännöksiin. Varustelu on alkanut.

Kaikkien järjestelmien logit ajetaan keskitettyyn paikkaan ja filtteröidään isolle screenille kaikkien nähtäville. Jos jotain merkittävää tapahtuu, se näkyy kaikille heti. Muut havainnointi ja vastatoimet alkavat olla paikoillaan.

Verkkotiimi alkaa päästä ennalta tuntemattoman palomuuriratkaisun jäljille. Verkko on ensimmäinen elementti, jossa hyökkääjä voidaan havaita. Samalla myös viimeinen työkalu, jolla mahdollinen tunkeutuja saadaan irti järjestelmistä. Ennakkovalmisteluja ei juuri verkon osalta keretty tekemään. Nyt mennään vaistojen ja pitkän kokemuksen turvin. Verkkotiimissä on kaksi henkilöä, mukana on Kapsin ylläpitotiimin tuolloin tuorein vahvistus, pitkän linjan kokenut verkkosäätäjä.

Hyökkäyksiä aletaan havaita. Jollain koneella on backdoor. Onneksi tilanne näkyy heti ja hälytykset sekä vastatoimet toimivat. Hyökkääjä on järjestelmistä ulkona jo ennen kuin tilanteeseen keretään reagoida. Kolmen ylläpitäjän vahvuiselle response-teamille jäi tälläerää vain takaoven siivoilu järjestelmästä.

Tästä eteenpäin hyökkäyksiä tulee useita yhtäaikaisesti ja kädet täyttyvät töistä. Operaattorin asiakkaiden WWW-sivuja onnistutaan töhrimään PHP-reiän kautta. Myös web-palvelimelle yritetään rootiksi, mutta jälleen kerran tuloksetta. Response-team hoitaa Linux-järjestelmiä jatkuvasti parempaan suuntaan ja paikkailee löydettyjä haavoittuvuuksia ja konfiguraatiovirheitä.

Windows-rintamalla yritetään asennella päivityksiä ja tarkastaa turvallisuusasetukset kohdalleen. Osa Windows-työasemista simuloi yrityksen hallinnon käyttöä. Käyttäjät availevat sähköpostilla tulleita linkkejä ja tiedostoja. Yksi PDF-tiedosto jäi verkkotiimin pystyttämään web-proxyyn. Haitanteko estyi jo ennalta.

Sähköpostipalvelimet eivät toimi. Harjoitusinfrassa on selkeitä ongelmia virtuaalikoneiden levyjen kanssa. Järjestelmät ovat hitaita ja osa koneista täysin käyttökelvottomia. Harjoituksen tekninen tiimi tutkii tilannetta. Ongelmiin ei saatu ratkaisua testiajon aikana. On syytä käydä asiat läpi ennen varsinaista harjoitusta. Testitiimejä oli kaksi, varsinaisessa harjoituksessa on yhdeksän. Tilanne ei näytä erityisen hyvältä.

Tutustun hieman tarkemmin harjoituksen taustalla olevaan tekniseen ympäristöön. Käy ilmi, että SAN-valmistajan ilmoittama levyjärjestelmän vauhti ei aivan vastaa reaalimailman toteumaa. Täytyy keksiä jokin vaihtoehtoinen ratkaisu. Aikaa on alle kolme viikkoa.

Kapsin uusi Siika-levyjärjestelmä otettiin ajoon reilut kaksi kuukautta aiemmin. Sitä ennen testausta tehtiin lähes vuosi. Pohdinta siirtyi Siika-järjestelmän hyödyntämään Solaris-pohjaiseen OpenIndiana-käyttöjärjestelmään ja sen ZFS-tiedostojärejstelmään. Saataisiinko tehokkaalla cachella riittävän paljon suorituskykyä olemassaolevalla raudalla, jotta testiajon ongelmat eivät toistuisi? Asiaa täytyy kokeilla käytännössä.

Kaksi Kapsin ylläpidon edustajaa pystyttää yhdelle blade-palvelimelle OpenIndianan. Levyt tulevat SAN-järjestelmästä 10 Gbps -verkon ylitse. Alustavat suorituskykyarvot vaikuttavat erittäin lupaavilta. Testauksen jälkeen päädytään siihen yhdessä teknisen tiimin kanssa, että tämä on paras ratkaisu mikä tällä aikataululla on järjestettävissä. Muita virtualisointijärjestelmän osa-alueita hienosäädetään. Harjoitus lähestyy.

To be continued, mikäli lukijoita kiinnostaa… 😉

Aihe: Yhdistystoiminta, Ylläpito | 10 kommenttia »

Varainhankintaa palvelumyynnillä

Olli Vainio / 16. helmikuuta 2012

Viimeaikoina on ilmennyt useita hyviä tilausuuksia käyttää Kapsin toimihenkilöiden osaamista hyödyksi uusilla tavoilla. Yhdistyksen resursseja on pyydetty erinäisiin projekteihin joista yhdistys voisi saada jatkossa myös taloudellista hyötyä. Tulevaisuudessa haluaisimmekin toteuttaa näitä projekteja ja ajattelimme hakea myös jäsenistön hyväksyntää projektitoiminnalle sillä kyseessä on kuitenkin periaateellisesti merkittävä asia.

Kapsin ainoa tulonlähde on jäsenmaksut, jotka tulevat kyllä kattamaan Kapsin operatiivisen toiminnan kulut ihan hyvin. Kapsin taloudellinen asema on siis ihan hyvä. Olisi kuitenkin hyödyllistä saada muitakin tulonlähteitä yhdistyksen kehittämisen tueksi.

Aiomme ehdottaa vuosikokoukselle 2012 palvelumyynnin mahdollistamisesta varainhankintarkoituksessa. Tällaisia palveluita voi muun muasssa olla Kapsin säännöissäkin mainittu koulutustoiminta.

2011 vuosikokouksessa päätettiin, että yhdistys voi palkata työvoimaa tietyin rajoittein. Tässä periaatepäätöksessä aiomme ehdottaa, että projekteissa voi olla palkattua työvoimaa, myös sellaisia henkilöitä jotka ovat Kapsin vapaehtoisia toimihenkilöitä.

Meille on kuitenkin äärimmäisen tärkeää tehdä selkeä ero projektien ja yhdistyksen muun talouden välillä. Emme halua maksaa jäsenmaksuista kenellekkään palkkaa ellei se tule ehdottoman välttämättömäksi yhdistyksen operatiivisen toiminnan turvaamiseksi tulevaisuudessa. Mikäli kuitenkin eteen tulee riittävän iso projekti toivoisimme, että meillä olisi mahdollisuus palkata sen projektin puitteissa täyspäiväisiä työntekijöitä – myös sellaisia henkilöitä jotka ovat Kapsin hallituksessa tai toimihenkilöitä. Käytännössä tällaiset täyspäiväiset työntekijät olisivat myös Kapsin operatiivisen toiminnan etu sillä he voisivat tehdä työajallaan myös yhdistyksen muita tehtäviä.

Taloudellista hyötyä tilanteesta myös tulee kun on myyntiä niin voimme vähentä arvonlisäveroja laitteistohankinnoista, jotka ovat hyvin merkittävä menoerä vuosittain.

Tiivistettynä on 2 periaatetta tässä toiminnassa jota aiomme noudattaa:

1. Yhdistyksen jäsenten rahoja ei siirry projektin kulujen kattamiseen. Palkka yms. kulut tulee aina kattaa projekteista saatavilla tuloilla. Projekteista saatu voitto on yhdistyksen kannalta varainhankintaa.

2. Jos tulee tilanne missä yhdistyksen jäsenistön etu ja joku muu etu ovat ristiriidassa, yhdistyksen jäsenistön etu voittaa aina.

Aihe: Hallitustoiminta, Yhdistystoiminta | 14 kommenttia »

Kapsilta poistettujen HP-palvelinten lahjoitus

Jasmin Hulkko / 27. joulukuuta 2011

Tänää maanantain puolella pidetyssä hallituksen kokouksessa päätettiin Kapsin käytöstä poistettujen HP:n palvelinkoneiden kohtalo. Hakemukset on nyt käsitelty ja lahjoituspäätökset tehty.

Valinnassa painotettiin toiminnan laajuutta, jatkuvuutta sekä kykyä hyödyntää lahjoitettavaa kalustoa. Valinnassa huomioitiin erityisesti sellaiset tarpeet, joita ei ole mahdollista toteuttaa Kapsin tarjoamin jäsenpalveluin tai hakijayhdistyksen omin voimin ilman lahjoitettavaa palvelinta.

Hakemuksia tuli yhteensä 21 kpl, joista 18 päätyi käsiteltäväksi. Kolme hakemusta hylättiin, koska lahjoituksen hakija ei edustanut rekisteröityä yhdistystä. Periaatepäätös poistettujen palvelimien lahjoituksesta on tehty yhdistyksen vaalikokouksessa vuonna 2009.

Suurin osa hakemuksista oli todella hyvin kirjoitettu ja niistä selvisi toiminnan tarkoitus sekä konkreettiset suunnitelmat lahjoitettavan palvelimen varalle. Tämänkertaisista hakemuksista kuitenkin kävi erittäin selväksi, että monet yhdistykset kaipaavat pohjimmiltaan tietynlaisia palveluita, jotka olisivat hyvinkin toteutettavissa Kapsin resurssein.

Pyrimme jatkossa aktiivisesti kehittämään palveluita myös yhdistyksien tarpeisiin. Tavoitteemme on, että yhdistykset voivat keskittyä paremmin tarkoituksensa toteuttamiseen Kapsin keskittyessä toteuttamaan puolestaan omaa tarkoitustaan tuottamalla jäsenilleen Internet-palveluita. Näkisin, että tähän mennessä olemme onnistuneet tässä tehtävässä loistavasti ainoastaan yksityisjäsenten osalta. Yhdistysten yleiset tarpeet ovat kuitenkin usein erilaiset emmekä ole Internet-painotteisena yhdistyksenä osanneet vastata niihin riittävän hyvin.

Lahjoituksen saajat

Lahjoitukset päätyivät hallituksen päätöksellä seuraavanlaisiin kohteisiin.

HP DL380 G5, entinen lakka.kapsi.fi:nä palvellut rauta lahjoitettiin Tietokonekerho LanTrek ry:lle. LanTrek järjestää Tampereella vuosittain huomattavan isoa verkkopelitapahtumaa sekä toimii aktiivisesti verkkopeliscenen hyväksi yhteistyössä muiden järjestäjien kanssa. Hakijoista kaksi oli niin tasavertaisia, että emme kyenneet valitsemaan niiden väliltä, joten lopullisen tuloksen LanTrekin eduksi ratkaisi arpa.

HP DL320s G1, entinen herukka, Kapsin varmuuskopiopalvelin lahjoitettiin Päivölän kansanopiston kannattajayhdistys r.y:lle. Yhdistys ylläpitää kansalaisopistoa ja edistää koulutustoimintaa suomessa. Kapsilta poistunut palvelin menee hoitamaan oppilaitoksen keskitetyn levypalvelimen virkaa entisen, levytilaltaan sekä resursseiltaan pieneksi jääneen laitteen tilalle.

Kiitos kaikille hakijoille. Olisimme mieluusti jakaneet enemmänkin palvelinkalustoa eteenpäin, mikäli olisi mitä jakaa. Käytettyä palvelinkalustoa yhdistyskäyttöön voi kysellä myös yliopistoilta sekä suuremmilta alan yrityksiltä.

Otamme vielä erikseen yhteyttä niihin hakijoihin, joiden hakemuksessa esitetyt tarpeet voisivat olla täytettävissä Kapsin tarjoamin palveluin.

Aihe: Hallitustoiminta, Yhdistystoiminta | Ei kommentteja »

Siika-levypalvelimen häiriöt

Joonas Kuorilehto / 15. joulukuuta 2011

Siika – Huuto

Tällä kertaa vähän teknisempää juttua niille joita kiinnostaa. Lyhyt yhteenveto: levypalvelimella on ollut pientä ajoittaista tökkimistä. Ongelmat ovat tiedossa, tarkkaa syytä selvitetään ja korjaus tehdään heti kun mahdollista. Kertokaa jos tällaisia halutaan jatkossa.

Siika-levypalvelin on toiminut pääasiassa erittäin hyvin. Sen suorituskyky on normaalitilassa havaittavasti parempi kuin aiemman levypalvelimen. Valitettavasti uusi levyjärjestelmä ei ole ollut aivan ongelmaton. Tässä artikkelissa joitain havaintoja ja teorioita. Osa asioista on vielä selvittämättä, mutta ajattelin että jäseniä saattaa kiinnostaa mitä ongelmien taustalla on ja mitä asioille on jo tehty.

Siian levyjärjestelmät:

tank: kotihakemistot, sähköpostit ja virtuaalikoneet
siilo: /siilo-tallennustila

Ongelmat alkoivat ilmenemään useiden viikkojen raskaan käytön jälkeen. Ensimmäisten oireiden ilmetessä tank-levyjärjestelmällä oli käynnissä rutiinitarkastus. Tarkastus oli oireiden ilmennessä kestänyt vajaan viikon ja oli edennyt 90 % asti. Yhtäkkiä kirjoitukset verkkolevylle kestivät kohtuuttoman kauan ja tästä aiheutui hidastelua www-palveluihin, lakan shelliin, irkkeihin ja muihin verkkolevyä käyttäviin palveluihin. Ylläpito keskeytti tarkastuksen kun sen epäiltiin mahdollisesti olevan häiriön aiheuttaja. Oireet lakkasivat lopetukseen.

Hetken tutkiskelun jälkeen muutama levyistä näytti SMART-tietojen perusteella olevan vaihdon tarpeessa. Virheellisiä sektoreita ei vielä ollut, mutta aiempien havaintojen mukaan jo ”pian virheelliset” sektorit enteilevät levyn rikkoutumista ja voivat aiheuttaa hidastelua. Kaksi oireilevaa levyä päätettiin vaihtaa varalevyihin (hot spare). Operaatiota kutsutaan zfs:ssä resilveriksi ja se vastaa jokseenkin RAIDin uudelleenrakennusta, mutta tapahtuu tiedostojärjestelmätasolla, ei raa’alle levypinnalle. Resilver-toiminnon aikana oireilu jatkui ja oli pahimmillaan perjantaina illalla. Asialle ei keksitty mitään helpotuksia ja oireet menivätkin ohi melko pian. Resilver kestää noin 24h. Pakassa olevissa levyissä havaittiin vielä lisää virheitä enteileviä SMART-lukuja ja kaksi levyä lisää on sittemmin vaihdettu.

Levyt

Siian levyt ovat Western Digitalin 7200 RPM Black -levyjä. Niitä on 56 kappaletta Supermicron 4 räkkiyksikön levykehikoissa, joita on Siiassa kaksi. Molemmat ovat 4x 3 Gbit/s SAS-kaapelilla kiinni levyohjaimessa.

Valitettavasti levyjen kanssa on ilmeisesti ongelmia RAID-käytössä. Levyjen firmwaren ongelmista yksi on, että jos lukemisessa sattuu virhe, niin levy yrittää lukea uudestaan useita kertoja ennen epäonnistumista. Tämä on huono ominaisuus palvelinkäytössä, sillä Siian zfs-tiedostojärjestelmä osaisi kyllä tunnistaa ja korjata vaikka virheellisen levyltä tulevan datan. Olennaisesti levyn pitäisi antaa lukuvirhe heti tai hyvin nopeasti, jotta tieto haettaisiin seuraavalta levyltä.

Vaikka ongelma on tiedostettu ja levyjä aiotaan vaihtaa Hitachin valmistamiin (olematon saatavuus hidastaa vaihtoa), esiintyneet häiriöt eivät välttämättä johdu näistä levyistä. On vielä tässä vaiheessa mahdotonta sanoa onko tällä ongelmalla mitään tekemistä esiintyvien häiriöiden kanssa.

ZFS Intent Log

Siikassa on 4 kpl HP:n 60 GB SSD-levyjä, joita käytetään muun muassa ZFS Intent Login tallentamiseen. Tällä järjestelyllä Siika toimii erittäin suorituskykyisesti. Eräs tuoreemmista havainnoista on, että jos ZIL:n ulkoinen loki poistetaan käytöstä, jolloin ZIL kirjoitetaan itse pakan levyille, niin NFS:n pätkiminen loppui.

Jos ZIL:n loki on SSD-levyillä, levyjärjestelmä toimii erittäin suorituskykyisesti, paitsi että ajoittain ainakin resilverin ja scrubin aikana on ilmennyt hidasteluja ja tökkimisiä. Jos SSD:t on poistettu käytöstä, tökkimisiä ei ole havaittu. Toisaalta suorituskyky on paljon heikompi. Ylläpito kokeili myös yhden varakovalevyn käyttämistä ZIL-lokina, mutta oireet tulivat takaisin eli vika ei välttämättä ole itse SSD-levyissä.

Ilmeisesti ZIL liittyy jollain tavalla oireiluun, mutta se miten, on vielä epäselvää. Ylläpito testailee Muikku-varmuuskopiopalvelimella, sillä siinä on vastaava levyjärjestelmä ja OpenIndiana-käyttöjärjestelmä, mutta mahdollinen tökkiminen ei näy jäsenpalveluissa.

Valitettavasti kunnes ongelmat selviävät, levyjärjestelmä toimii hieman hitaammin. Testit pyritään tekemään ilman häiriöitä jäsenpalveluille, mutta täysin niiltä ei voitane välttyä. Pahoittelut ja toivotaan että muuten hyvin toiminut Siika-levyjärjestelmä saadaan toimimaan yhtäaikaa luotettavasti ja nopeasti.

Aihe: Ylläpito | 10 kommenttia »

Kapsin rahankäyttö 2011

Olli Vainio / 14. joulukuuta 2011

Olen vuoden 2010 loppupuolella tehnyt vastaavaan blogauksen tästä samasta aiheesta. Vuosi 2011 alkaa olla nyt niin lopuillaan, ettei ole enää tulossa kulueriä, jotka merkittävästi muuttaisivat tätä jakaumaa, niin ajattelin, että vuoden 2011 osalta voisi tehdä samanlaista blogia nyt.

Vuonna 2011 Kapsi on käyttänyt rahaa noin 141 268 euroa. Yllä olevassa kuvassa on prosenttiosuuksina asiat, mihin rahaa on käytetty.

Palvelimet

54 221 euroa

Tämä kohta sisältää kaikki palvelinhankinnat, palvelimien tukisopimukset ja muut laitteistohankinnat varsinaisen operaation pyörittämiseen. Vuonna 2011 oli kolme isompaa palvelinhankintaa kun hankittiin Hilla korvaamaan Xobia, Muikku ja uusi Lakka. Loppuvuodesta hankittiin myöskin uudet sähkönsyöttöratkaisut Nebulan tiloihin ja ne kuuluvat tähän osioon.

Hosting

46 367 euroa

Hostingiin sisältyy Nebulalle ja Tenuelle vuoden aikana maksetut laskut.

Toimitila

9 358 euroa

Toimitilan kuluihin sisältyy toimitilan vuokra, sähkömaksu, Internet-yhteys ja toimitilalle hankitut tarvikkeet.

Matkakulut

4 966 euroa

Matkakulut sisältävät kaikki matkoista aiheutuvat kulut. Kulut muodostuvat lähinnä lentolipuista Oulun ja Helsingin välillä sekä Oulussa yhdistyksen asioita hoitamisesta aiheutuneiden automatkojen kilometrikorvauksista.

Kokouskulut

5 261 euroa

Kokouskulut sisältävät kulut mitä on aihetunut yhdistyksen, hallituksen ja ylläpidon kokouksista. Myös muutamia isompia toimihenkilöiden tapaamisia on pidetty ja ne kulut ovat tässä mukana. Suurin osa kuluista tulee yhdistyksen kokouksien ja isoimpien toimihenkilökokoontumisten tilavuokrista. Ylläpidon ja hallituksien kokouksien satunnaiset virvokkeista ja tarjoiluista aiheutuvat kulut olen myös sisällyttänyt tähän.

Työläppärit

16 094 euroa

Tässä kuluerässä on toimihenkilöiden käyttöön hankitut kannettavat tietokoneet. Kuluerä sisältää 3 kpl 13″ MacBook Air, 5 kpl 13″ MacBook Pro, 1 kpl 15″ MacBook Pro ja 2 kpl Lenovo X220 -kannettavia tietokoneita. Todellinen yhdistykselle aiheutunut menoerä on hieman tuota ylläolevaa euromäärää pienempi, kun osa koneista on ollut määrättyä budjettia kalliimpia ja näissä tapauksissa toimihenkilö on maksanut ylimenevän osuuden koneesta itse. Huomioitavaa on myöskin, että seuraavan kerran isompi menoerä toimihenkilöiden läppäreistä tulee vasta 2014 kun nykyiset koneet pääsevät 3 vuoden käyttöikänsä loppuun.

Muut kulut

5 001 euroa

Tässä on kaikki satunnaiset kulut jotka eivät suoraan kuulu minkään ylläolevan menoerän alle. Suurin menoerä muissa kuluissa on kirjanpito.

Aihe: Hallitustoiminta, Yhdistystoiminta | 2 kommenttia »

Kapsi numeroina 2011

Olli Vainio / 10. joulukuuta 2011

Aiemmin olen blogannut tästä samasta aiheesta ja yhdistyksen IRC-kanavalla esitettiin jo toiveita tämän blogauksen uusimiseksi. Tässäpä tulee tuoreempia numeroita.

Jäsenet

Yhdistyksellä on 3727 jäsentä ja jäsenmäärä edelleen kasvaa useammalla kymmenellä jäsenellä kuukaudessa.

Hallinto

Hallitus käsitteli 446, helpdesk 327 ja ylläpito 2291 yhteydenottoa jäseniltä 12kk aikana marraskuusta 2010, marraskuuhun 2011.

Tekniikka

Yhdistyksellä on 13 palvelinta ja 4 levyhyllyä kahdessa konesalissa ja yhdistyksen toimitilalla.

Palvelimilla on yhteensä 90 prosessoriydintä ja 446 gigatavua keskusmuistia. Eniten ytimiä on Siiassa jossa niitä on 16, tosin vastikään hankittu Lakka 12 ytimellään saattaa olla laskentateholtaan hieman nopeampi. Eniten muistia on Lakassa, jossa sitä on 144 gigatavua.

Raakalevytilaa on noin 223 teratavua. Erilaisten varmistusten jälkeen käytettävissä oleva levytila on toki reilusti pienempi. Jotain viitettä voi saada siitä palvelimet -sivulla. Käyttäjien dataa on Lakan kotihakemistoissa 8 teratavua, Siilossa 23 teratavua ja Hillan kotihakemistoissa 0,3 teratavua.

Käyttäjien ajamana on yhtäaikaisesti noin 14000 prosessia. Joista noin 8000 on Lakalla ja 6000 Hillalla.

Tietokantoja on käytössä 3123 kappaletta. Keskimäärin tietokantoihin tulee noin 940 kyselyä sekunnissa.

Sähköpostipalvelimen läpi kulkee noin 26 000 viestiä päivässä.

Nimipalvelimilta palvellaan 1543 DNS-zonea.

Paskanmarja on uudelleenkäynnistetty 31.5.2011 jälkeen 44 kertaa. Pisimmillään paskanmarjaa on jaksettu pitää päällä 68 päivää kerralla.

IRCnetiin on 2545 yhtäaikaista yhteyttä molemmilta shellipalvelimilta. 1465 Lakalta ja 1080 Hillalta. Tämä tarkoittaa, että noin 3,8% koko IRCnetin käyttäjistä irkkaa Kapsin palveluita käyttäen.

Kapsin WWW-palvelimilla on noin 6200 palveltavaa sivustoa. Näille sivustoille tulee yhteensä noin 15,1 miljoonaa osumaa päivässä.

Kokonaisliikennemäärä kaikilta palvelimilta molemmista konesaleista Internetiin on noin 1,6 teratavua vuorokaudessa.

Aihe: Sekalaista, Yhdistystoiminta, Ylläpito | Ei kommentteja »