ChatGPT解决这个技术问题 Extra ChatGPT

如何使用 Keras 的 Tensorboard 回调?

我已经用 Keras 构建了一个神经网络。我会通过 Tensorboard 可视化它的数据,因此我使用了:

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,
                            write_graph=True, write_images=True)

keras.io 中所述。当我运行回调时,我得到 <keras.callbacks.TensorBoard at 0x7f9abb3898>,但我的文件夹“Graph”中没有任何文件。我如何使用这个回调有什么问题吗?

我建议将 histogram_freq 设置为 1。 “histogram_freq:计算模型层的激活直方图的频率(以时期为单位)。如果设置为 0,则不会计算直方图。”
注意:“/Graph”在根目录中创建一个目录,而“./Graph”在工作目录中创建一个。
@MattKleinsmith 如果设置为 0,则不会通过验证数据计算模型层的仅激活和权重直方图,仍将记录指标。
我认为最好给 logdir 赋予唯一的名称看看 stackoverflow.com/a/54949146/1179925

E
Eric O Lebigot
keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

此行创建一个回调 Tensorboard 对象,您应该捕获该对象并将其提供给模型的 fit 函数。

tbCallBack = keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)
...
model.fit(...inputs and parameters..., callbacks=[tbCallBack])

这样,您就可以将回调对象提供给该函数。它将在训练期间运行,并将输出可与 tensorboard 一起使用的文件。

如果要可视化训练期间创建的文件,请在终端中运行

tensorboard --logdir path_to_current_dir/Graph 

希望这可以帮助 !


当 write_images=False 时,我使用它并出现以下错误
InvalidArgumentError(有关回溯,请参见上文):张量必须是 4-D,最后一个暗淡为 1、3 或 4,而不是 [1,3,3,256,256,1] [[Node: conv_3.2_2/kernel_0_1 = ImageSummary[T=DT_FLOAT, bad_color=Tensor, max_images=3, _device="/job:localhost/replica:0/task:0/cpu:0"](conv_3. 2_2/kernel_0_1/tag, ExpandDims_50)]]
当 True Any Idea 时,说占位符缺少 dtype = float?
标量选项卡仍然是空的,尽管我可以在图形选项卡上看到我的模型架构?
这只会产生用于训练损失和准确性的标量。你如何对传递给 fit 函数的 validation_data 做同样的事情?
t
today

这是您使用 TensorBoard callback 的方式:

from keras.callbacks import TensorBoard

tensorboard = TensorBoard(log_dir='./logs', histogram_freq=0,
                          write_graph=True, write_images=False)
# define model
model.fit(X_train, Y_train,
          batch_size=batch_size,
          epochs=nb_epoch,
          validation_data=(X_test, Y_test),
          shuffle=True,
          callbacks=[tensorboard])

有没有办法更好地构造张量板的输出? Keras 是否在这方面做了一些优化?
@nickpick 我不知道你的意思。但我认为这可能是另一个问题的候选者。
需要注意的是,如果 tensorboard 没有通过 tf.summary.histogram 记录任何直方图,则设置 histogram_freq=0 - 否则 histogram_freq 不等于 0!
L
Leandro Souza

改变

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

tbCallBack = keras.callbacks.TensorBoard(log_dir='Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

并设置你的模型

tbCallback.set_model(model)

在您的终端中运行

tensorboard  --logdir Graph/

我得到了AttributeError: 'TensorBoard' object has no attribute 'set_model'
A
Andrew

如果您正在使用 Keras 库并希望使用 tensorboard 来打印您的准确度图和其他变量,那么下面是要遵循的步骤。

第 1 步:使用以下命令初始化 keras 回调库以导入 tensorboard

from keras.callbacks import TensorBoard

第 2 步:在“model.fit()”命令之前在程序中包含以下命令。

tensor_board = TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)

注意:使用“./graph”。它将在您当前的工作目录中生成图形文件夹,避免使用“/graph”。

第 3 步:在“model.fit()”中包含 Tensorboard 回调。示例如下。

model.fit(X_train,y_train, batch_size=batch_size, epochs=nb_epoch, verbose=1, validation_split=0.2,callbacks=[tensor_board])

第 4 步:运行您的代码并检查您的图形文件夹是否在您的工作目录中。如果上述代码正常工作,您的工作目录中将有“Graph”文件夹。

第 5 步:在您的工作目录中打开终端并键入以下命令。

tensorboard --logdir ./Graph

第 6 步:现在打开您的网络浏览器并输入以下地址。

http://localhost:6006

进入后,Tensorbaord 页面将打开,您可以在其中查看不同变量的图表。


需要注意的是,如果 tensorboard 没有通过 tf.summary.histogram 记录任何直方图,则设置 histogram_freq=0 - 否则 histogram_freq 不等于 0!
K
Kings85

这是一些代码:

K.set_learning_phase(1)
K.set_image_data_format('channels_last')

tb_callback = keras.callbacks.TensorBoard(
    log_dir=log_path,
    histogram_freq=2,
    write_graph=True
)
tb_callback.set_model(model)
callbacks = []
callbacks.append(tb_callback)

# Train net:
history = model.fit(
    [x_train],
    [y_train, y_train_c],
    batch_size=int(hype_space['batch_size']),
    epochs=EPOCHS,
    shuffle=True,
    verbose=1,
    callbacks=callbacks,
    validation_data=([x_test], [y_test, y_test_coarse])
).history

# Test net:
K.set_learning_phase(0)
score = model.evaluate([x_test], [y_test, y_test_coarse], verbose=0)

基本上,histogram_freq=2 是调用此回调时要调整的最重要参数:它设置调用回调的 epoch 间隔,目的是在磁盘上生成更少的文件。

因此,这是一个示例,显示了在 TensorBoard 中的“直方图”选项卡下,在整个训练过程中最后一次卷积的值的演变(我发现“分布”选项卡包含非常相似的图表,但在侧面翻转):

https://raw.githubusercontent.com/Vooban/Hyperopt-Keras-CNN-CIFAR-100/master/tensorboard_histogram_example.png

如果您想在上下文中查看完整示例,可以参考这个开源项目:https://github.com/Vooban/Hyperopt-Keras-CNN-CIFAR-100


我对此投了反对票,因为其中很大一部分实际上是问题,而不是问题的答案。不要在答案中提出新问题,无论是答案的一部分还是全部目的。
我编辑了问题以删除您提到的内容。实际上,在我回答时,很难从文档中正确使用此回调。
要回答“我如何使用 Keras 的 TensorBoard 回调?”,所有其他答案都是不完整的,并且仅响应问题的小上下文 - 例如,没有人处理嵌入问题。至少,我已经记录了我的回答中可能出现的错误或要避免的事情。我想我提出了重要的问题,甚至没有人认为可以考虑。我还在等待一个完整的答案。这个回调也没有记录,就像癌症一样。
D
DINA TAKLIT

如果您使用的是 google-colab,图表的简单可视化将是:

import tensorboardcolab as tb

tbc = tb.TensorBoardColab()
tensorboard = tb.TensorBoardColabCallback(tbc)


history = model.fit(x_train,# Features
                    y_train, # Target vector
                    batch_size=batch_size, # Number of observations per batch
                    epochs=epochs, # Number of epochs
                    callbacks=[early_stopping, tensorboard], # Early stopping
                    verbose=1, # Print description after each epoch
                    validation_split=0.2, #used for validation set every each epoch
                    validation_data=(x_test, y_test)) # Test data-set to evaluate the model in the end of training

r
rsc

创建 Tensorboard 回调:

from keras.callbacks import TensorBoard
from datetime import datetime
logDir = "./Graph/" + datetime.now().strftime("%Y%m%d-%H%M%S") + "/"
tb = TensorBoard(log_dir=logDir, histogram_freq=2, write_graph=True, write_images=True, write_grads=True)

将 Tensorboard 回调传递给 fit 调用:

history = model.fit(X_train, y_train, epochs=200, callbacks=[tb])

运行模型时,如果出现 Keras 错误

“您必须为占位符张量提供一个值”

尝试在创建模型之前重置 Keras 会话,方法是:

import keras.backend as K
K.clear_session()

它解决了问题,You must feed a value for placeholder tensor。知道为什么吗?
P
Part

你写了 log_dir='/Graph' 你是说 ./Graph 吗?您现在将其发送给 /home/user/Graph


为什么 /Graph 会在用户的主目录中创建一个文件夹,而不是直接使用 /Graph
n
nicodjimenez

您应该查看 Losswise (https://losswise.com),它有一个 Keras 插件,比 Tensorboard 更易于使用,并且有一些不错的额外功能。使用 Losswise,您只需使用 from losswise.libs import LosswiseKerasCallback,然后使用 callback = LosswiseKerasCallback(tag='my fancy convnet 1'),一切顺利(参见 https://docs.losswise.com/#keras-plugin)。


免责声明:OP 是 Losswise 的创始人,它是一种付费产品(尽管有相当慷慨的免费等级)
@MichaelMior 是正确的,虽然它还不是付费产品,而且可能永远不会是(除了未来的 prem 许可证)
M
Michael Mior

有几件事。

首先,不是 /Graph,而是 ./Graph

其次,当您使用 TensorBoard 回调时,请始终传递验证数据,因为没有它,它将无法启动。

第三,如果您想使用除标量摘要之外的任何内容,那么您应该只使用 fit 方法,因为 fit_generator 不起作用。或者您可以重写回调以使用 fit_generator

要添加回调,只需将其添加到 model.fit(..., callbacks=your_list_of_callbacks)


关注公众号,不定期副业成功案例分享
关注公众号

不定期副业成功案例分享

领先一步获取最新的外包任务吗?

立即订阅