ASTAExtended – konverteringsprogram til statistikfiler
ASTAExtended – konverteringsprogram til statistikfiler
AstaExtended er Rigsarkivets værktøj til validering og konvertering af afleveringspakker med forskningsdata til arkiveringsversioner. Læs mere og download programmet.
Konverteringsprogram
ASTAExtended er Rigsarkivets værktøj til validering og konvertering af afleveringspakker med forskningsdata til arkiveringsversioner. Programmet er en udvidet version af ASTA og henvender sig til arkiver, IT-leverandører og myndigheder, der modtager eller behandler afleveringspakker med data fra statistikfiler.
ASTAExtended kan bruges til at:
- konvertere statistikfil(er) til en afleveringspakke
- validerer om en afleveringspakke overholder kravene i bilag 9 i vejledning til bekendtgørelse nr. 128
- konvertere en godkendt afleveringspakke til en arkiveringsversion
- konvertere en arkiveringsversion til et udleveringsformat
Skal du producere en afleveringspakke?
Tjek din afleveringsbestemmelse — det fremgår her, om du skal aflevere en afleveringspakke (se figur 1) eller en arkiveringsversion (se figur 2).
Hvis du skal aflevere en afleveringspakke, kan du læse videre på siden ‘Aflever statistikfiler’.
Gå til siden Aflever statistikfiler.
Hvis I vil vide mere om forskellen på en afleveringspakke og en arkiveringsversion, kan I se en grafisk oversigt over indholdet i bekendtgørelse nr. 128. Se enten bilag 2, figur 2.1 (for en arkiveringsversion) eller bilag 9, figur 9.1 (for en afleveringspakke).
Skal du konvertere en afleveringspakke til en arkiveringsversion?
Arbejder du på et stadsarkiv og/eller modtager afleveringspakker fra forskere eller myndigheder? Start ved Trin 2 nedenfor. Skal du efterfølgende udlevere data fra en arkiveringsversion til en bruger, se afsnittet ‘Udlevere data’, som du finder længere nede på siden.
Skal du producere en arkiveringsversion fra statistikfiler?
Inden du går i gang
Statistikfilerne skal opfylde en række krav, før ASTAExtended kan generere en afleveringspakke og efterfølgende validerer og konvertere den. Det indebærer bl.a., at:
- statistikfilerne stammer fra SPSS (.sav), R (.rds), SAS (.sas7bdat) eller Stata (.dta), så ASTAExtended kan foretage et udtræk
- alle variable har en sigende variabelbeskrivelse og accepterede datatyper jf. bilag 9, figur 9.3
- indeksfilerne archiveIndex.xml og evt. contextDocumentationIndex.xml er modtaget fra den ansvarlige arkivar
- kontekstdokumenter, inklusiv afleveringsbestemmelsen er konverteret til et arkivformat (TIFF, JPEG2000, MP3, WAV eller MPEG)
Den færdige arkiveringsversion skal derudover overholde de øvrige specifikationer i bekendtgørelse nr. 128, bilag 1–8.
Se den fulde tjekliste i brugervejledningen til ASTAExtended.
Under menupunktet Skab afleveringspakke i ASTAExtended udtrækker du data og metadata fra dine statistikfiler. Programmet danner automatisk et eksportscript, som køres i det tilsvarende statistikprogram. Herefter angiver du oplysninger om datasættet, placerer indeksfilerne og tilføjer kontekstdokumenter.
Tjek følgende inden du starter udtræk, da nedstående kan forhindre udtrækket til afleveringspakken:
- Datafilerne skal have ekstension .sav, .sas7bdat, .dta eller .rds
- Filnavne må ikke indeholde mellemrum eller specialtegn (såsom bindestreg eller punktum) og må ikke starte med et tal
- Datafiler skal være indkodet i UTF-8
Valider afleveringspakken under menupunktet Test afleveringspakke. Valideringen tjekker om afleveringspakkens struktur og indhold overholder kravene i bekendtgørelse nr. 128, bilag 9. Afvigelser vises i testloggen med vejledning til, hvordan de skal rettes.
Testen skal køres, indtil den gennemføres uden afvigelser. ASTAExtended validerer ikke alle krav i bekendtgørelse nr. 128 — databaserelaterede krav, herunder primær- og fremmednøgler kontrolleres ikke. Anvend derfor altid ADA efterfølgende til at validere disse.
Har du behov for at justere/tilrette afleveringspakken (som indebære datafiler (tableX.csv) og metadatafiler (tableX.txt)), kan dette gøres i den nye genererede afleveringspakke. Det er dog anbefalet at tilrette i statistikfilen før udtræk.
Når afleveringspakken er valideret, fremkommer knappen Konverter til AV. Konverteringen omdanner afleveringspakken til en arkiveringsversion i overensstemmelse med specifikationerne i bekendtgørelse nr. 128, bilag 1-8.
Under konverteringen bør du kontrollere, at konverteringen bliver tabsfri ved at sammenligne data før og efter i grænsefladen Kontroller konvertering i ASTAExtended. Konverteringsrapporten dokumenterer også eventuelle forskelle.
Inden du fortsætter, anbefaler vi at læse afsnittet Gode råd ved konvertering til arkiveringsversion nedenfor, da der er kendte begrænsninger i ASTAExtended, som kan påvirke resultatet.
Når arkiveringsversionen er produceret, anbefaler Rigsarkivet altid at validere den med ADA — Rigsarkivets valideringsprogram til arkiveringsversioner. ADA validerer om arkiveringsversionen lever op til kravene i bekendtgørelse nr. 128, bilag 1-8 og er altid et trin Rigsarkivet udfører ved behandling af en aflevering. Hvis valideringen viser røde afvigelser som kan være svære at tolke, så fremsend eventuelt en kopi af disse i en mail og send den til Digital Bevaring (digitalbevaring@rigsarkivet.dk). Dette giver et hurtigere og mere smidigt forløb for alle.
Bemærk at en gennemført ADA-validering ikke i sig selv er ensbetydende med, at Rigsarkivet umiddelbart kan godkende arkiveringsversionen. Vi anbefaler at tjekke ved hjælp af tjeklisten.
Tjekliste inden færdiggørelse og afsendelse af arkiveringsversion til Rigsarkivet
Når arkiveringsversionen er produceret og testet, afleveres den til Rigsarkivet.
Læs mere om hvordan I kan aflevere data til Rigsarkivet på siden ‘Aflever data til Rigsarkivet’
Har du spørgsmål til afleveringsprocessen, kan du kontakte Digital Bevaring på følgende mail: digitalbevaring@rigsarkivet.dk.
Gode råd ved konvertering til arkiveringsversion
Der er kendte begrænsninger i den nuværende version af ASTAExtended, som er værd at være opmærksom på inden og under konverteringen. Vi bestræber os at rette op på disse fejl i fremtidige versioner. I forbindelse med konvertering fra afleveringspakke til arkiveringsversion kan der opstå to slags problemer i arkiveringsversionen:
- Tomme variabler og datatyper: Hvis en variabel ikke indeholder nogle værdier, fastsætter ASTAExtended datatypen til VARCHAR(0), hvilket ikke er tilladt og stopper ADA-testen. Løsningen er at åbne tableIndex.xml og lave en søg-og-erstat, hvor VARCHAR(0) ændres til fx VARCHAR(1).
- Tomme kodelister (foreignKeys): Hvis en metadatafil (tableX.txt) indeholder en tom kodelistesektion, indsætter ASTAExtended alligevel elementet <foreignKeys /> i tableIndex.xml. Den opmærkning bør ikke være der og giver en fejl i ADA, som stopper testen. Gennemgå tableIndex.xml og fjern forekomster af <foreignKeys />, hvor der ikke reelt er kodelister knyttet til tabellen.
Skal du udlevere data fra en arkiveringsversion i statistikformat?
Funktionen Skab udleveringsformat er introduceret med ASTAExtended, og kan bruges til at konvertere en arkiveringsversion til et udleveringsformat (DIP), som gør det muligt at importere data i SPSS.
Det kan fx være relevant, hvis du:
- skal levere statistikdata til en arkivbruger, der ønsker at arbejde videre med materialet i SPSS eller andet statistikformat.
- skal skabe en DIP på baggrund af en arkiveringsversion med statistikdata
Udleveringsformatet indeholder kontekstdokumenter i TIFF-format samt data og metadata i et mellemformat med et tilhørende SPSS-import script.
Bemærk: Funktionen Skab udleveringsformat er endnu ikke færdigudviklet. Brug af funktionen kræver en grundig manuel kontrol af, at konverteringen til SPSS-format er tabsfri.
Vejledning og lovgivning
Download eksempler og vejledning
- Brugervejledning til ASTAExtended
- Quickguide til produktion og test af en afleveringspakke
- Eksempel på afleveringspakke (FD.18005)
- Eksempel på arkiveringsversion (AVID.SA.18005.1)
- Eksempel på udleveringsformat (DIP.18005)
- Eksempel på redigeret udleveringsformat (Udleveringsformat 18005)
Lovgivning
- Bekendtgørelse nr. 128 af 12. februar 2020 om arkiveringsversioner
- Vejledning til bekendtgørelse nr. 128
- Tjekliste inden færdiggørelse og afsendelse af arkiveringsversion til Rigsarkivet
Support
Oplever du problemer med ASTAExtended, kontakt Rigsarkivets datamanager for forskningsdata: digitalbevaring@rigsarkivet.dk.