Orillusion

    • 注册
    • 登录
    • 搜索
    • 版块
    • 最新
    • 标签
    1. 主页
    2. database
    D
    • 资料
    • 关注 0
    • 粉丝 0
    • 主题 1
    • 帖子 1
    • 最佳 0
    • 有争议的 0
    • 群组 0

    database

    @database

    0
    声望
    1
    资料浏览
    1
    帖子
    0
    粉丝
    0
    关注
    注册时间 最后登录

    database 取消关注 关注

    database 发布的最新帖子

    • webgpu测量tfjs模型推理时每层的执行时间 flops

      我想通过获得模型推理时每层的执行时间和flops来形成一个条形图进行性能分析。
      我尝试使用

      for(var i=0; i<length; i++){
        if( i==0 ){
          const startTime = tf.util.now();
          testdata=model.layers[i].call(testdata);
          const endTime = tf.util.now();
          console.log(`Layer ${i} took ${(endTime - startTime)}ms`);
        }else{
          const startTime = tf.util.now();
          testdata=model.layers[i].apply(testdata);
          const endTime = tf.util.now();
          console.log(`Layer ${i} took ${(endTime - startTime)}ms`);
        }
      }
      

      来进行以层粒度进行推理,获取每层的执行时间,但发现时间加起来apply比model.perdict(data)时间少了很多。有其他最佳的方法获得每层的推理时间吗

      发布在 中文社区 webgpu 每层执行时间
      D
      database