0331 開放資料實作課 @ hpa

61
「開放資料」實作工作坊 2016年3月31日 @ 衛福部303會議室

Upload: -

Post on 15-Apr-2017

649 views

Category:

Government & Nonprofit


2 download

TRANSCRIPT

Page 1: 0331 開放資料實作課 @ HPA

「開放資料」實作工作坊2016年3月31日 @ 衛福部303會議室

Page 2: 0331 開放資料實作課 @ HPA

本課程內容源自g0v《開放資料Lesson》專案

http://goo.gl/PFM1eb

Page 3: 0331 開放資料實作課 @ HPA

開放資料

Page 4: 0331 開放資料實作課 @ HPA

彭專委演講重點

• 開放資料 → 應用 → 報導 (公私協力)

• 官網上的查詢系統、PDF/word不是開放資料,乾淨的檔案才是

• 放上開放資料平台,才有適當授權

不分地方中央、黨派的共同政策

Page 5: 0331 開放資料實作課 @ HPA

彭專委演講重點

• 開放資料 → 應用 → 報導 (公私協力)

• 官網上的查詢系統、PDF/word不是開放資料,乾淨的檔案才是

• 放上開放資料平台,才有適當授權

Page 6: 0331 開放資料實作課 @ HPA

4hr

Page 7: 0331 開放資料實作課 @ HPA

我該怎麼做?

如果我被交辦「請把某個資料變成開放資料」

Page 8: 0331 開放資料實作課 @ HPA

大綱

•Part 1 把資料變乾淨

•Part 2 把格式存正確

•Part 3 把資料價值提高

•Part 4 重點資料集改善&討論

•尾聲 署內開放資料SOP介紹

應用

原則

Page 9: 0331 開放資料實作課 @ HPA

Part 1

把資料變乾淨

Page 10: 0331 開放資料實作課 @ HPA

csv檔

Page 11: 0331 開放資料實作課 @ HPA
Page 12: 0331 開放資料實作課 @ HPA

在開放資料的世界裡

沒有合併儲存格這個東西

Page 13: 0331 開放資料實作課 @ HPA

=不能有合併儲存格

把資料變乾淨

Page 14: 0331 開放資料實作課 @ HPA

□ 合併儲存格

□ 小計總計

□ 跨儲存格

□ 空白格位

□ 表頭表尾

□ 兩表合一

乾淨資料檢查表

Page 15: 0331 開放資料實作課 @ HPA

測試一

Page 16: 0331 開放資料實作課 @ HPA

全國糖尿病支持團體名單

□ 合併儲存格

□ 小計總計

□ 跨儲存格

□ 空白格位

□ 兩表合一

□ 表頭表尾http://data.gov.tw/node/8833

Page 17: 0331 開放資料實作課 @ HPA

全國糖尿病支持團體名單

□ 合併儲存格

□ 小計總計

□ 跨儲存格

□ 空白格位

□ 兩表合一

□ 表頭表尾http://data.gov.tw/node/8833

V

Page 18: 0331 開放資料實作課 @ HPA

測試二

Page 19: 0331 開放資料實作課 @ HPA

血壓、血糖參考標準

□ 合併儲存格

□ 小計總計

□ 跨儲存格

□ 空白格位

□ 兩表合一

□ 表頭表尾http://data.gov.tw/node/8841

Page 20: 0331 開放資料實作課 @ HPA

血壓、血糖參考標準

□ 合併儲存格

□ 小計總計

□ 跨儲存格

□ 空白格位

□ 兩表合一

□ 表頭表尾http://data.gov.tw/node/8841

V

V

V

Page 21: 0331 開放資料實作課 @ HPA

測試三

Page 22: 0331 開放資料實作課 @ HPA

歷年國中學生曾吸菸百分比

□ 合併儲存格

□ 小計總計

□ 跨儲存格

□ 空白格位

□ 兩表合一

□ 表頭表尾http://data.gov.tw/node/9340

Page 23: 0331 開放資料實作課 @ HPA

歷年國中學生曾吸菸百分比

□ 合併儲存格

□ 小計總計

□ 跨儲存格

□ 空白格位

□ 兩表合一

□ 表頭表尾http://data.gov.tw/node/9340

V

V

V

Page 24: 0331 開放資料實作課 @ HPA

把資料變乾淨

Page 25: 0331 開放資料實作課 @ HPA

統計清單

Page 26: 0331 開放資料實作課 @ HPA

Part 2

把格式存正確

Page 27: 0331 開放資料實作課 @ HPA

存成csv檔

Page 28: 0331 開放資料實作課 @ HPA

Excel檔 Csv檔

Page 29: 0331 開放資料實作課 @ HPA

資料更結構化

Page 30: 0331 開放資料實作課 @ HPA

舉個例子http://app.raw.densitydesign.org/

Page 31: 0331 開放資料實作課 @ HPA

把剛才清乾淨的Excel檔

轉成csv檔

Page 32: 0331 開放資料實作課 @ HPA

怎麼轉成csv檔?

Page 33: 0331 開放資料實作課 @ HPA

Excel直接存csv檔的缺陷

Page 34: 0331 開放資料實作課 @ HPA

字元編碼

• ANSI(Big 5):2 byte/1個中文字

• UTF 8 :3-4 byte/1個中文字

UTF 8比較不會缺字

UTF 8是國際碼

Page 35: 0331 開放資料實作課 @ HPA

我們不只是要csv檔

Page 36: 0331 開放資料實作課 @ HPA
Page 37: 0331 開放資料實作課 @ HPA
Page 38: 0331 開放資料實作課 @ HPA

Excel無法直接存UTF 8的csv

Page 39: 0331 開放資料實作課 @ HPA

存 UTF8編碼的csv 小工具

• 台南市研考會https://imc-tn.tainan.gov.tw/excel-merge-tool/

• Ronny助教http://g0v.github.io/excel-data-tool/to-csv/

Page 40: 0331 開放資料實作課 @ HPA

為什麼打開變亂碼?

Page 41: 0331 開放資料實作課 @ HPA

建議上傳兩份:

① excel② UTF 8的csv

Page 42: 0331 開放資料實作課 @ HPA

Part 1 + Part 2

綜合演練

Page 43: 0331 開放資料實作課 @ HPA

□ 合併儲存格

□ 小計總計

□ 跨儲存格

□ 空白格位

□ 兩表合一

□ 表頭表尾

Part 1

把資料清乾淨

Part 2

把格式存正確

□ 線上轉檔工具*2

□ 記事本確認

Page 44: 0331 開放資料實作課 @ HPA

10 min請把Part 1(清資料)、Part 2(轉格式)完成!

Page 45: 0331 開放資料實作課 @ HPA

Bonus Part

進階功能

Page 46: 0331 開放資料實作課 @ HPA

進階情境

• Q1:有很多工作表怎麼辦?

• Q2:地址欄位怎麼填?

• Q3:如果需要經緯度?

Page 47: 0331 開放資料實作課 @ HPA

Q1:有很多工作表怎麼辦?20個工作表、分存成20個檔 / 存成同1個工作表、1個檔

Page 48: 0331 開放資料實作課 @ HPA

Q1:有很多工作表怎麼辦?http://g0v.github.io/excel-data-tool/merge-sheets/

上傳你的Excel檔案

下載

把分頁變成欄位欄位起始前一行

Page 49: 0331 開放資料實作課 @ HPA

Q2:地址欄位怎麼填?原則:越細當然越好、正確性很重要

• 縣市

• 鄉/鎮/市/區

• 村/里

• 鄰

• 大道/路/街/地區

• 段

• 巷/弄/衖

• 樓 (之~)

• 室

Page 50: 0331 開放資料實作課 @ HPA

Q3:如果需要經緯度?內政部TGOS系統

座標選「WGS 84」 確認完整地址

Page 51: 0331 開放資料實作課 @ HPA

Part 3

把資料價值提高

Page 52: 0331 開放資料實作課 @ HPA

有請Ronny老師

Page 53: 0331 開放資料實作課 @ HPA

品質提升小秘訣

• 辨認重要欄位

• Excel小技巧:vlookup

=vlookup(要找的詞,範圍,答案行,0)

Page 54: 0331 開放資料實作課 @ HPA

Part 4

重點資料改善&討論

Page 55: 0331 開放資料實作課 @ HPA

重點資料集

•第一組:健走步道

•第二組:口腔癌篩檢院所名單子抹病理單位院所名單癌友導航醫院名單

•第三組:禁菸場所商家名稱及地址

•第四組:癌友導航 / 哺集乳室

•第五組:癌友導航 / 哺集乳室

•第六組:哺集乳室資料集

Page 56: 0331 開放資料實作課 @ HPA

重點資料集• Step 1 觀察!

• 資料集有哪些欄位?• 格式有沒有問題?

• Step 2 討論!• 應該減少、增加哪些欄位?【想像應用】

• Step 3 動手!• 增減欄位、把資料變乾淨&把格式存正確

是否應搭配別的資料一起開放?還有哪些資料也可以開放?

Page 57: 0331 開放資料實作課 @ HPA

25 min25min後,

請各組派一位同仁分享你們的討論跟進度~

Page 58: 0331 開放資料實作課 @ HPA

重要TIP!

如果你覺得開放資料怎麼這麼麻煩…

Page 59: 0331 開放資料實作課 @ HPA

重要TIP!

請從已有系統下手!

Page 60: 0331 開放資料實作課 @ HPA

重要TIP!

請留意系統維運案!

Page 61: 0331 開放資料實作課 @ HPA

尾 聲

署內開放資料SOP