Faust Python 流处理

开源网站开源项目 24-05-10 16:50:24

Faust 是一个流处理库,将想法从 Kafka Streams 移植到 Python。

它在 Robinhood 用于构建高性能的分布式系统和实时数据管道,每天处理数十亿个事件。

Faust 提供流处理和事件处理,与 Kafka Streams,Apache Spark / Storm / Samza / Flink 等工具共享相似性,

它不使用 DSL,它只是 Python!这意味着您可以在流处理时使用所有您喜欢的 Python 库:NumPy,PyTorch,Pandas,NLTK,Django,Flask,SQLAlchemy,++

Faust 需要 Python 3.6 或更高版本才能使用新的 async / await 语法和变量类型注释。

特性:

简单易使用

高度可用

快速

灵活性

以下是处理传入订单流的示例:

# Python Streams ٩(◕‿◕)۶# Forever scalable event processing & in-memory durable K/V store;# w/ asyncio & static typing.import faustapp = faust.App('myapp', broker='kafka://localhost')# Models describe how messages are serialized:# {"account_id": "3fae-...", amount": 3}class Order(faust.Record):    account_id: str    amount: int@app.agent(value_type=Order)async def order(orders):    async for order in orders:        # process infinite stream of orders.        print(f'Order for {order.account_id}: {order.amount}')

[Faust Python 流处理]相关推荐

Texture iOS 异步渲染 UI 框架

Texture 是异步渲染 UI 框架,该库的设计思想对很多 UI 框架产生了影响,封装动态化框架如果想要异步渲染……...

ROME RSS 工具

ROME是用于RSS和Atom订阅的Java框架。 并根据Apache 2.0许可证开源。 ROME包括一组用于各种形式的联合供……...

OS4 Linux 发行版

OS4 Linux 发行版

OS4(现在改名为Black Lab Linux)是一份用户友好的基于Xubuntu的桌面和服务器Linux发行。它的一些最有趣……...

今日开源
  1. Atomic 运行 Docker 容器的原型系统

    Atomic 是一个用于运行 Docker 容器的原型系统,使用不可变的基础设施来部署和扩展你的容器化应用。该项目主要包括 Atomic Host、Team Silverblue 和各种容器工具。 Atomic的目标是提供一个高层次的、连贯的系统入……

    开源软件 2024-05-17

  2. FlexBox jQuery下拉框插件

    FlexBox jQuery下拉框插件

    FlexBox 是一个 jQuery 插件用来显示动态下拉框,下拉数据可直接进行翻页显示,使用的是 JSON 格式的数据源。 It can be used as a: ComboBox, with per-result html templates Suggest box, like Google's searc……

    开源软件 2024-05-17

  3. Rubick 基于 electron 的开源工具箱

    Rubick 是一个基于 electron 的工具箱,媲美 utools 的开源插件,已实现 utools 大部分的 API 能力,所以可以做到无缝适配 utools 开源的插件。 之所以做这个工具箱一方面是 utools 本身并未开源,但是公司内部的……

    开源软件 2024-05-17

返回顶部小火箭