Skip to content

deepx APU&AIspace,实现deepx的中层(调度与插件化指令替换)。 #92

@miaobyte

Description

@miaobyte

程序=数据结构+数据+函数

我希望为deepx的ai程序,设计抽象的程序空间。模糊cpu、gpu、内存、显存的传统分布式的空间计算边界,重新设计统一架构的apu(软件解释执行+扩展tensor加速的AI 处理器)、统一ai内存空间AIspace。

AIspace内存系统:
1.我打算设计一套内存空间AIspace,以存放数据结构和数据。基于kv系统索引存储,kv系统也可以逻辑上实现一维的逻辑内存空间。
2.AIspace需要可以存储,还需要消息通知机制(可能基于redis,或其它)。
3.另外AIspace,对一些基础的串类型,只存放其元数据,而串的数组则存放在其它拓展位置,如内存、显存、甚至文件系统。
4.程序线程的指令,在AIspace上,也表现为堆栈划分。

  1. APU。ai解释执行器。
    访问(读写)AIspace,依次执行AIspace对应位置的指令。(对应deepx的ir)

3.apu扩展加速计算系统
对一些tensor计算指令,交由专门的计算执行器负责tensor的计算任务,完成计算后会通过AIspace的消息通知APU,由具体的simd、cuda加速程序实现。(deepx实际上已经实现了)

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions