Noen datasett
Olympiske data
Kilden er diverse resultatlister, og datasettet er satt sammen for hånd
Resultatene fra sprintøvelsene (100m, 200m, 400m) fra de siste sommerolympiadene (Barcelona, Atlanta, Sidney, Aten, Beijing) er lagret som en XML-fil: resultater. Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/olympiade/all_results.xml
De olympiske sprintdataene slik som de er organisert ovenfor kan valideres med følgende DTD-fil:
<?xml version="1.0" encoding="UTF-8"?> <!ELEMENT IOC (OlympicGame+)> <!ELEMENT OlympicGame (event+)> <!ATTLIST OlympicGame place CDATA #REQUIRED year CDATA #REQUIRED > <!ELEMENT athlet (name, nation, result)> <!ELEMENT event (athlet+)> <!ATTLIST event dist (100m | 200m | 400m) #REQUIRED > <!ELEMENT name (#PCDATA)> <!ELEMENT nation (#PCDATA)> <!ELEMENT result (#PCDATA)>
eller følgende Schema-fil:
For illustrasjonenes skyld brukes også følgende bilder:
![Barcelona](../../commondata/olympiade/Barcelona.gif)
![Atlanta](../../commondata/olympiade/Atlanta.gif)
![Sidney](../../commondata/olympiade/Sidney.gif)
![Athens](../../commondata/olympiade/Athens.gif)
![Beijing](../../commondata/olympiade/Beijing.gif)
![London](../../commondata/olympiade/London.gif)
Sonetter
Shakespears 154 sonetter finnes en rekke steder på nettet, f.eks. [1]
Sonettene er beskrevet i XML-format slik: sonetter som XML. Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/sonetter/sonetter.xml
Sonettene slik som de er organisert ovenfor kan valideres med følgende DTD-fil:
<?xml version="1.0" encoding="UTF-8"?> <!ELEMENT id (#PCDATA)> <!ELEMENT line (#PCDATA)> <!ELEMENT sonnet (id, line+)> <!ELEMENT sonnetes (sonnet+)>
eller følgende Schema-fil:
For illustrasjonenes skyld finnes noen bilder:
![theman](../../commondata/sonetter/theman.jpg)
![thegifman](../../commondata/sonetter/theman.gif)
En text-versjon kan du hente her: sonetter som text. Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/sonetter/sonnets.txt
Bøker
Det er laget en enkel liste av bøker. Den forefinnes i to versjoner:
En kommaseparert versjon: bøker som text Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/bokliste/bokliste.txt
En xml versjon: bøker som xml Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/bokliste/bokliste.xml
Den siste kan valideres med følgende DTD:
<?xml version="1.0" encoding="UTF-8"?> <!ELEMENT author (#PCDATA)> <!ELEMENT book (title, course, category, author, publisher, year, comment)> <!ATTLIST book isbn CDATA #REQUIRED pages CDATA #REQUIRED > <!ELEMENT booklist (book+)> <!ELEMENT category (#PCDATA)> <!ELEMENT comment (#PCDATA)> <!ELEMENT course (#PCDATA)> <!ELEMENT publisher (#PCDATA)> <!ELEMENT title (#PCDATA)> <!ELEMENT year (#PCDATA)>
eller følgende Schema:
Viner
Vindataene er hentet fra diverse anmeldelser i dagpressen. Dataene er ikke brukbare som vinguide. De inneholder feil og flere av de refererte vinene er gått ut av Vinmonopolets sortiment. Dataene er bare brukbare for å eksperimentere med XML-transformasjoner, formatering og databasesøk.
Det er laget en XML-fil med beskrivelser av viner. Denne er bygget opp slik:
<?xml version="1.0" encoding="UTF-8"?> <wines> <wine> <type>sparkling</type> <name>Gosset Grande Réserve Brut</name> <catalog>32299</catalog> <country>Frankrike</country> <volume>75</volume> <price>259.00</price> <dice>5</dice> <description>Duften minner mest om epler og har et lite streif av gjærbakst.</description> </wine> ... </wines>
og er i sin helhet slik: viner som XML Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/vin/viner.xml
Den kan valideres med følgende DTD:
<?xml version="1.0" encoding="UTF-8"?> <!ELEMENT catalog (#PCDATA)> <!ELEMENT country (#PCDATA)> <!ELEMENT description (#PCDATA)> <!ELEMENT dice (#PCDATA)> <!ELEMENT name (#PCDATA)> <!ELEMENT price (#PCDATA)> <!ELEMENT type (#PCDATA)> <!ELEMENT volume (#PCDATA)> <!ELEMENT wine (type, name, catalog, country, volume, price, dice, description)> <!ELEMENT wines (wine+)>
eller følgende Schema:
Materialet kan illustreres med følgende bilder:
Rødvin |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
Musserende vin |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
Rosevin |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
Hvitvin |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
Du kan laset ned aktuelle filer i zippet form her: allefiler.zip
Vindatabase
Det er også laget en MySQL-database og en (Microsoft)MSQL-database med vinbeskrivelser basert på XML-materialet som er beskrevet ovenfor. Basen er svært enkel, med en tabell som avbilder XML-strukturen direkte. Basen er laget slik som MySQL-base:
create database vin; use vin; create table wines( vin_id INT PRIMARY KEY AUTO_INCREMENT, name VARCHAR(100), catalog CHAR(10), type CHAR(10), country VARCHAR(20), dice TINYINT, volume INT, price CHAR(10), description TEXT );
MSQL-basen er lik bortsett fra at vin_id er laget med andre verdier.
Som database betraktet er ikke dette noe storarted design, men hensikten er bare å ha noe råmateriale som vi kan eksperimentere med uten alt for mye tankearbeid.
MySQL -basen er tilgjengelig for lesing (select) som "vin" på: "frigg.hiof.no" med bruker "student" og passord "student".
MSQL -basen er tilgjengelig for lesing (select) som "bs" på: "donau.hiof.no" med bruker "student" og passord "student".
Fotballklubber
Det er laget en MySQL-database med informasjon om fotballklubber og fotballearenaer for de to øverste nivåene i en del europeiske land:
- Tyskland (DE)
- Danmark (DK)
- England (EN)
- Spania (ES)
- Frankrike (FR)
- Italia (IT)
- Nederland (NL)
- Norge (NO)
- Portugal (PT)
- Portugal (SE)
To tabeller er tilgjengelige for lesing fra basen "bsdiverse" på frigg.hiof.no, med brukernavn "student" og passord "student"
I klubber er det slik at f.eks. ID=NO1 gir alle klubber i Norsk eliteserie.
Følgende sqlsetning vil plukke data, inklusive arenanavn for klubber i norsk eliteserie.
select klubber.Name,klubber.Logo,arenaer.Name as 'ArenaName' from klubber inner join arenaer on klubber.StadionID=arenaer.ID where SerieID='NO1' order by klubber.Name;
Bruk av alias (as) er nyttig når vi skal bruke XML-dump fra databasen og vil unngå navneknflikter.
FotballVM
Databasen fotball innholder i tillegg til det som er nevnt ovenfor også to tabeller som beskriver alle VM-turneringer og alle VM-kamper fra 1930 til 2006.
![]() |
use fotball; create table vm( aar YEAR PRIMARY KEY, land VARCHAR(30), beskrivelse TEXT, grupper TEXT ); create table vmkamper( kamp_id INT PRIMARY KEY AUTO_INCREMENT, aar YEAR, land VARCHAR(30), dato DATE, gruppe TEXT, lagA VARCHAR(30), lagB VARCHAR(30), scoreA INT, scoreB INT, scoreAx INT, scoreBx INT, scoreAp INT, scoreBp INT ); |
vm.beskrivelse er en beskrivelse av turneringsstrukturen og vm.grupper er en liste over alle grupper, inklusive finaler
vmkamper.scoreAx og vmkamper.scoreBx er mål lagd i extraomganger, og vmkamper.scoreAp og vmkamper.scoreBp er mål lagd i straffekonkurranser.
Basen er tilgjengelig for lesing (select) som "fotball" på: "frigg.hiof.no" med bruker "student" og passord "student".
Norgeskart
Datasettet er et sett av svært grove polygoner for norske kommuner. Dette er gamle data stilt til rådighet av daværende Norges Geografiske Oppmåling for undervisningsformål. Dataene er modifisert av forfatteren i hht. kommunesammenslåinger.
Det er laget 3 filer som beskriver kommuner og fylker i Norge:
- fylker er en liste over fylkesnummer og fylkesnavn. Den komplette adressen er: norge/fylker.txt
- kommuneindex er en liste over kommunenummer, kommunenavn og indeks til hjørner i grensepolygonet for kommunen. Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/norge/kindex.txt
- punkter er en liste over alle polygonhjørner i alle kommunegrenser. Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/norge/pnts.txt
Land
Vevstedet geonames [2] inneholder en masse data om steder i verden. Disse dataene er fritt tilgjengelige og kan hentes ned som dumper fra en database eller de kan hentes vie en enkel webservice i ymse format, XML, CSV eller JSON. Jeg har tatt ned og ordnet data for alle land i verden i henholdvis CSV- og XML-format. Jeg har laget lokale kopier for å sikre tilgjengeligheten. De samme data finnes som ws.geonames.org/countryInfo og ws.geonames.org/countryInfoCSV
CSV-fila
Dataene ser slik ut: land Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/geonames/land.txt
Feltene er skilt med tabulator, og feltene er:
- 2 bokstavers kode standardisert av ISO
- 3 bokstavers kode standardisert av ISO
- tallkode kode standardisert av ISO
- fips code, identifikasjon fra en annen standard (fips)
- landets navn på engelsk
- hovestadens navn på engelsk
- arealet i km2
- befolkning
- verdensdel, EU, AS, NA, AF, AN, SA, OC
- språk, nærmere forklart på geonames
- mynt
- ID for denne geografiske enheten i geonames database
XML-fila
XML-fila inneholder i tillegg til CSV-fila geografiske koordinater for en boks som omgir landet.
Dataene ser slik ut: land som xml Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/geonames/land.xml
Disse kan valideres med følgende DTD:
<?xml version="1.0" encoding="UTF-8"?> <!ELEMENT population (#PCDATA)> <!ELEMENT languages (#PCDATA)> <!ELEMENT isoNumeric (#PCDATA)> <!ELEMENT isoAlpha3 (#PCDATA)> <!ELEMENT geonames ((country+))> <!ELEMENT geonameId (#PCDATA)> <!ELEMENT fipsCode (#PCDATA)> <!ELEMENT currencyCode (#PCDATA)> <!ELEMENT countryName (#PCDATA)> <!ELEMENT countryCode (#PCDATA)> <!ELEMENT country ((countryCode, countryName, isoNumeric, isoAlpha3, fipsCode, continent, capital, areaInSqKm, population, currencyCode, languages, geonameId, west, north, east, south))> <!ELEMENT continent (#PCDATA)> <!ELEMENT capital (#PCDATA)> <!ELEMENT west (#PCDATA)> <!ELEMENT south (#PCDATA)> <!ELEMENT north (#PCDATA)> <!ELEMENT east (#PCDATA)> <!ELEMENT areaInSqKm (#PCDATA)>
eller følgende skjema:
SSB
Statistisk sentralbyrå (SSB) deler med seg av en del interessante data, se
[3]
.
Et av datasettene er en oversikt over innbyggere i Norge fordelt på kjønn og alder.
Disse er tilgjengelige som CSV
http://data.ssb.no/api/v0/dataset/1082.csv?lang=no
og som JSON
http://data.ssb.no/api/v0/dataset/1082.json?lang=no
Formatene er relativt kompliserte og jeg har forenklet dem slik at de er lettere å bruke til ulike formål
Det er laget 3 JSON-filer:
- http://www.it.hiof.no/~borres/commondata/SSB/befolkning/men.json
- http://www.it.hiof.no/~borres/commondata/SSB/befolkning/women.json
- http://www.it.hiof.no/~borres/commondata/SSB/befolkning/all.json
Du kan se et enkelt eksempel på bruk her (dump av data)
test
http://www.it.hiof.no/~borres/commondata/SSB/befolkning/test.html
Det er dessuten laget 3 kompakte CSV-filer som blandt annet er velegnet for lasting av data til tables i Processing [4] :
- http://www.it.hiof.no/~borres/commondata/SSB/befolkning/data/men.csv"
- http://www.it.hiof.no/~borres/commondata/SSB/befolkning/data/women.csv"
- http://www.it.hiof.no/~borres/commondata/SSB/befolkning/data/all.csv"
Latinske ordtak
Et antall latinske ordtak av litt varierende art er lagret på fila: ordtak. Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/latin/ordtak.txt
Som du ser er det ett ordtak pr linje, og latinen er skilt fra forklaringen med ;.
Tekst
Av og til trenger vi litt tekst uten særlig mening for å teste formatering, søkerutiner eller hva det måtte være. Klassikeren er "Lorem Ipsum", en "latinaktig" tekst uten mening [5] .
Dersom du trenger en tekst med norske tegn finner du noe her: maketext.html.
Skatt
Noen ligningsdata for året 2006. De 100 med størst inntekt, de 100 med størst skatt og de 100 med mest formue fra hvert fylke er lagret på tre måter: CSV-fil, XML-fil og database (mySQL).
Alle navn er anonymiserte. Anonymiseringen opprettholder kjønn. Em person opptrer kun en gang selv om han/hun figurerer på to eller tre av listene. Etternavn er stokket tilfeldig og fornavn tas fra de fornavn i Norge som er brukt minst 20 ganger. Likhet i etternavn er tilfeldig, og er altså ikke opprettholdt.
Tekstdata er slik: skattedata som tekst Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/skatt_2006/nn-allefylker.txt
XMLdata er slik (stor fil): skattedata som xml Den komplette adressen er: http://www.it.hiof.no/~borres/commondata/skatt_2006/nn-allefylker.xml
Databasen er ordnet slik:
USE bsdiverse; DROP TABLE IF EXISTS skattere; CREATE TABLE skattere( skattid INT PRIMARY KEY AUTO_INCREMENT, etternavn VARCHAR(30), fornavn VARCHAR(30), faar INT, fylke VARCHAR(30), inntekt LONG, skatt LONG, formue LONG );
Basen er tilgjengelig for lesing fra frigg med bruker: student og passord: student.
CIA Factbook
Siden CIA Word Factbook
inneholder data om verdens land.
Disse dataene er tilgjengelige og er hentet og pakket av mange brukere.
Versjon 2008 er lastet ned og
pakket ut fra Ian Macky,PATsom
http://www.it.hiof.no/~borres/commondata/ciadata/CIA2008.xml.
(Dokumentet er på ca 5 Mb).
Inspiser: CIA2008.xml