inference 相关问题

推理是从已知或假设为真实的前提中得出逻辑结论的行为或过程。得出的结论也称为惯用语。在逻辑领域研究有效推理的定律。

如何在.net应用程序中使用openvino?

我想知道是否可以在.net应用程序中使用openvino? 我已将 yolo 网络转换为 onnx 网络以与 ml.net 一起使用。接下来我想做的是实现开放...

回答 3 投票 0

在 AWS SageMaker 中的不同实例上运行预处理和推理

我试图弄清楚是否有一种方法可以在 Sagemaker 中的不同实例上运行预处理和推理。现在,我部署了一个在 GPU 实例上运行的图像模型,我的想法......

回答 2 投票 0

Typescript 在本地函数中类型推断失败

我陷入了失败的类型推断,但我不清楚为什么......这是代码: 类型A = { 种类:'A', aaa:字符串, } 类型 B = { 种类:'B', } 类型C= | A | ...

回答 1 投票 0

如何设置 sagemaker triton 推理的配置文件?

我一直在寻找示例并从aws遇到这个,https://github.com/aws/amazon-sagemaker-examples/blob/main/sagemaker-triton/ensemble/sentence-transformer-trt/examples/ensemble_hf /bert-trt/...

回答 1 投票 0

通过 Ontotext GraphDB 上的 owl:sameAs 检索实例集

假设我们在 Ontotext GraphDB 上加载了以下一组事实: @前缀:。 @前缀猫头鹰:。 :bbq_sauce a :成分;...

回答 1 投票 0

为什么在 eval 模式下保存的 PyTorch 模型每次运行推理时都会返回不同的结果?

在这种情况下,我尝试了所有常规步骤,以确保推理代码本身不存在随机元素,即模型不应根据输入更改其预测。看看德...

回答 2 投票 0

具有多个 batchnorm1d 层的 Pytorch 模型在推理过程中出现错误 - “预期的 2D 或 3D 输入(获得 1D 输入)”

我在pytorch中使用batchnorm1D的模型是这样的: 类鉴别器(nn.Module): def __init__(self, 序列长度): super(鉴别器,self).__init__() self.batchnorm1 = nn.BatchNorm1d(

回答 1 投票 0

有没有办法使用c++中的onnxruntime将神经网络的权重写入文件?

我正在编写一个程序来使用onxxruntime执行推理。我在下面添加了我的工作示例。我看到推理后的输出与我的预期输出不符,所以我想验证一下......

回答 0 投票 0

应用贝叶斯框架估计线性回归参数

我是贝叶斯框架的新手,我从Kruschke的书和BDA课程开始了解一些理论来解决我的问题。 我的问题很常见:我收集了一些数据 x,y 并且我......

回答 0 投票 0

对单个图像和 image_dataset_from_directory 进行 Tensorflow 推理

我已经训练了一个 CNN,并有一个脚本,可以让我对使用 image_dataset_from_directory 传入的批量图像进行推理。我这样做的核心是使用以下代码: 导入...

回答 1 投票 0

无法使用 sahi 来推断我的模型

我已在自定义数据集上对 Yolox 进行了微调,并希望使用切片辅助超推理 SAHI,但我不能 有一些预训练模型的用例,例如 model_type='mmdet', 模型路径=

回答 0 投票 0

OWL 中域/范围与通用属性限制的交互

在下面的设计示例中,我有一个类:Car 和一个对象属性:hasCarType。在 :Car 的定义中,我想使用类 :

回答 0 投票 0

PyTorch:为什么我的条件推理。扩散模型(Palette)总是导致错误的预测?

我正在尝试实施 Palette,这是一个条件扩散模型,但我在推理算法方面遇到了一些麻烦。目前,我只是想用它来模拟一个非常简单的数据......

回答 0 投票 0

为什么 Mace4 估值在我的 Python 程序中不起作用?

这里是一个非常简单的Mace4的使用例子,直接取自NLTK网站: 从 nltk.sem 导入表达式 从 nltk.inference 导入 MaceCommand read_expr = Expression.fromstring 一 =

回答 1 投票 0

神经缓存的实现:深度神经网络的位串行缓存内加速

我发现了一篇有趣的论文 Neural Cache: Bit-Serial In-Cache Acceleration of Deep Neural Networks。这篇论文是关于——这篇论文 Neural Cache architecture on CPUs that transforms cache

回答 0 投票 0

使用bert-tiny-chinese模式得到不同的embedding结果,即使是eval模式

这是我的代码: 导入操作系统 导入系统 将 numpy 导入为 np 将熊猫导入为 pd 从变压器导入 BertTokenizerFast,AutoModel 从时间导入时间 进口手电筒 输入数据=[ '我很开心' ] p...

回答 0 投票 0

Requirements.txt 未使用 Sagemaker Pytorch Estimator 打包在 model.tar.gz 中

我正在使用 SageMaker Pipeline 工作流来训练模型并注册它。稍后我将从注册的模型创建一个端点。 我需要在我的 inference.py 文件中安装一些 python 包,...

回答 3 投票 0

在 tensrflow/keras 中测量深度神经网络的推理时间

我想在 tensprflow /keras 中使用 GPU/cpu 估计神经网络的推理时间。是否有一个公式/代码可以让您知道神经网络的 FLOPs 的推理时间......

回答 0 投票 0

cGAN 到变分推理 cGAN?

我们可以在条件 GAN 中使用变分推理吗?我尝试了条件 GAN(pix2pix 论文),我想知道如何在 cGAN 中使用 VI? 不幸的是,我找不到链接或文章......

回答 0 投票 0

通过连接到 resnet tensorflow 服务服务进行推理的代码有什么问题?

通过以下命令下载了tensorflow serving resnet model pb文件并解压,同时创建了一个version 1目录: wget -c https://storage.googleapis.com/download.tensorflow....

回答 0 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.