实例介绍
ingestr是一个命令行应用程序,允许您使用简单的命令行标志从任何来源摄取数据到任何目的地,无需编写任何代码。
它可以将数据从数据库复制到任何目的地,支持增量加载、追加、合并或删除 插入操作,并且可以通过单个命令进行安装。ingestr消除了管理任何后端或编写任何摄入数据代码的复杂性,只需运行命令,就可以观察数据到达目的地。
安装:pip install ingestr
快速入门:ingestr摄取数据:
--source-uri 'postgresql://admin:admin@localhost:8837/web?sslmode=disable' --source-table 'public.some_data' --dest-uri 'bigquery://?credentials_path=/path/to/service/account.json' --dest-table 'ingestr.some_data'
这个命令将:从Postgres实例获取公共表some_data;将这些数据上传到您的BigQuery仓库中,架构为ingestr,表名为some_data。
【实例截图】【核心代码】
文件清单
└── ingestr-c439ae5c9dd9897ae509c4001afe45a27190b5fa
├── Dockerfile
├── docs
│ ├── commands
│ │ ├── example-uris.md
│ │ └── ingest.md
│ ├── getting-started
│ │ ├── core-concepts.md
│ │ ├── incremental-loading.md
│ │ ├── quickstart.md
│ │ └── telemetry.md
│ ├── index.md
│ └── supported-sources
│ ├── bigquery.md
│ ├── csv.md
│ ├── databricks.md
│ ├── duckdb.md
│ ├── gsheets.md
│ ├── mongodb.md
│ ├── mssql.md
│ ├── mysql.md
│ ├── notion.md
│ ├── oracle.md
│ ├── overview.md
│ ├── postgres.md
│ ├── redshift.md
│ ├── sap-hana.md
│ ├── snowflake.md
│ └── sqlite.md
├── ingestr
│ ├── main.py
│ ├── main_test.py
│ ├── src
│ │ ├── destinations.py
│ │ ├── destinations_test.py
│ │ ├── factory.py
│ │ ├── factory_test.py
│ │ ├── google_sheets
│ │ │ ├── helpers
│ │ │ │ ├── api_calls.py
│ │ │ │ ├── data_processing.py
│ │ │ │ └── __init__.py
│ │ │ ├── __init__.py
│ │ │ └── README.md
│ │ ├── mongodb
│ │ │ ├── helpers.py
│ │ │ └── __init__.py
│ │ ├── notion
│ │ │ ├── helpers
│ │ │ │ ├── client.py
│ │ │ │ ├── database.py
│ │ │ │ └── __init__.py
│ │ │ ├── __init__.py
│ │ │ └── settings.py
│ │ ├── sources.py
│ │ ├── sources_test.py
│ │ ├── sql_database
│ │ │ ├── helpers.py
│ │ │ ├── __init__.py
│ │ │ ├── override.py
│ │ │ └── schema_types.py
│ │ ├── telemetry
│ │ │ └── event.py
│ │ ├── testdata
│ │ │ └── fakebqcredentials.json
│ │ └── version.py
│ └── testdata
├── LICENSE.md
├── Makefile
├── package.json
├── package-lock.json
├── pyproject.toml
├── README.md
├── requirements-dev.txt
├── requirements.txt
└── resources
├── demo.gif
├── demo.tape
└── ingestr.svg
17 directories, 62 files
标签:
小贴士
感谢您为本站写下的评论,您的评论对其它用户来说具有重要的参考价值,所以请认真填写。
- 类似“顶”、“沙发”之类没有营养的文字,对勤劳贡献的楼主来说是令人沮丧的反馈信息。
- 相信您也不想看到一排文字/表情墙,所以请不要反馈意义不大的重复字符,也请尽量不要纯表情的回复。
- 提问之前请再仔细看一遍楼主的说明,或许是您遗漏了。
- 请勿到处挖坑绊人、招贴广告。既占空间让人厌烦,又没人会搭理,于人于己都无利。
关于好例子网
本站旨在为广大IT学习爱好者提供一个非营利性互相学习交流分享平台。本站所有资源都可以被免费获取学习研究。本站资源来自网友分享,对搜索内容的合法性不具有预见性、识别性、控制性,仅供学习研究,请务必在下载后24小时内给予删除,不得用于其他任何用途,否则后果自负。基于互联网的特殊性,平台无法对用户传输的作品、信息、内容的权属或合法性、安全性、合规性、真实性、科学性、完整权、有效性等进行实质审查;无论平台是否已进行审查,用户均应自行承担因其传输的作品、信息、内容而可能或已经产生的侵权或权属纠纷等法律责任。本站所有资源不代表本站的观点或立场,基于网友分享,根据中国法律《信息网络传播权保护条例》第二十二与二十三条之规定,若资源存在侵权或相关问题请联系本站客服人员,点此联系我们。关于更多版权及免责申明参见 版权及免责申明
网友评论
我要评论