ChatGPT解决这个技术问题 Extra ChatGPT

如何在 Keras 中从 HDF5 文件加载模型?

如何在 Keras 中从 HDF5 文件加载模型?

我尝试了什么:

model = Sequential()

model.add(Dense(64, input_dim=14, init='uniform'))
model.add(LeakyReLU(alpha=0.3))
model.add(BatchNormalization(epsilon=1e-06, mode=0, momentum=0.9, weights=None))
model.add(Dropout(0.5))

model.add(Dense(64, init='uniform'))
model.add(LeakyReLU(alpha=0.3))
model.add(BatchNormalization(epsilon=1e-06, mode=0, momentum=0.9, weights=None))
model.add(Dropout(0.5))

model.add(Dense(2, init='uniform'))
model.add(Activation('softmax'))


sgd = SGD(lr=0.1, decay=1e-6, momentum=0.9, nesterov=True)
model.compile(loss='binary_crossentropy', optimizer=sgd)

checkpointer = ModelCheckpoint(filepath="/weights.hdf5", verbose=1, save_best_only=True)
model.fit(X_train, y_train, nb_epoch=20, batch_size=16, show_accuracy=True, validation_split=0.2, verbose = 2, callbacks=[checkpointer])

上述代码成功地将最佳模型保存到名为 weights.hdf5 的文件中。然后我想做的是加载该模型。下面的代码显示了我是如何尝试这样做的:

model2 = Sequential()
model2.load_weights("/Users/Desktop/SquareSpace/weights.hdf5")

这是我得到的错误:

IndexError                                Traceback (most recent call last)
<ipython-input-101-ec968f9e95c5> in <module>()
      1 model2 = Sequential()
----> 2 model2.load_weights("/Users/Desktop/SquareSpace/weights.hdf5")

/Applications/anaconda/lib/python2.7/site-packages/keras/models.pyc in load_weights(self, filepath)
    582             g = f['layer_{}'.format(k)]
    583             weights = [g['param_{}'.format(p)] for p in range(g.attrs['nb_params'])]
--> 584             self.layers[k].set_weights(weights)
    585         f.close()
    586 

IndexError: list index out of range

M
Martin Thoma

如果您将完整的模型(不仅是权重)存储在 HDF5 文件中,那么它就像

from keras.models import load_model
model = load_model('model.h5')

在计算模型的内存占用时,模型是否也包含实际的训练数据?你怎么能加载一个比你可用内存大的模型?
模型不(明确)包含训练数据。您无法加载大于可用内存的模型(好吧,这是可能的,但这将非常困难,您需要自己完成...但是如果您的模型太大而无法加载您应该(a)获得更多内存或(b)训练更小的模型)
@MartinThoma 我正在使用您建议的方法。我试图从加载的模型中取出一层并尝试通过以下方式查看它的权重:encoder = autoencoder.layers[0] encoder.get_weights() 但我得到:FailedPreconditionError: Attempting to use uninitialized value lstm_1/kernel
我很欣赏你的赞美:-) 为接受的答案指出一点:我可以想象只存储权重更健壮。如果 keras 发生变化,仍然可以导入权重,而无法导入完整的东西。另一方面,可以安装旧版本,转储权重并像以前一样做。
@pr338 请考虑更新您接受的答案。
M
Mikael Rousson

load_weights 仅设置网络的权重。您仍然需要在调用 load_weights 之前定义其架构:

def create_model():
   model = Sequential()
   model.add(Dense(64, input_dim=14, init='uniform'))
   model.add(LeakyReLU(alpha=0.3))
   model.add(BatchNormalization(epsilon=1e-06, mode=0, momentum=0.9, weights=None))
   model.add(Dropout(0.5)) 
   model.add(Dense(64, init='uniform'))
   model.add(LeakyReLU(alpha=0.3))
   model.add(BatchNormalization(epsilon=1e-06, mode=0, momentum=0.9, weights=None))
   model.add(Dropout(0.5))
   model.add(Dense(2, init='uniform'))
   model.add(Activation('softmax'))
   return model

def train():
   model = create_model()
   sgd = SGD(lr=0.1, decay=1e-6, momentum=0.9, nesterov=True)
   model.compile(loss='binary_crossentropy', optimizer=sgd)

   checkpointer = ModelCheckpoint(filepath="/tmp/weights.hdf5", verbose=1, save_best_only=True)
   model.fit(X_train, y_train, nb_epoch=20, batch_size=16, show_accuracy=True, validation_split=0.2, verbose=2, callbacks=[checkpointer])

def load_trained_model(weights_path):
   model = create_model()
   model.load_weights(weights_path)

如果要加载 FULL 模型,而不仅仅是权重:from keras.models import load_model 然后 model = load_model('model.h5')
@mikael,你能给我这个 SO 帖子的提示吗? stackoverflow.com/questions/55050339/…
I
Inherited Geek

请参阅以下示例代码,了解如何构建基本的 Keras 神经网络模型、保存模型 (JSON) 和权重 (HDF5) 并加载它们:

# create model
model = Sequential()
model.add(Dense(X.shape[1], input_dim=X.shape[1], activation='relu')) #Input Layer
model.add(Dense(X.shape[1], activation='relu')) #Hidden Layer
model.add(Dense(output_dim, activation='softmax')) #Output Layer

# Compile & Fit model
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
model.fit(X,Y,nb_epoch=5,batch_size=100,verbose=1)    

# serialize model to JSON
model_json = model.to_json()
with open("Data/model.json", "w") as json_file:
    json_file.write(simplejson.dumps(simplejson.loads(model_json), indent=4))

# serialize weights to HDF5
model.save_weights("Data/model.h5")
print("Saved model to disk")

# load json and create model
json_file = open('Data/model.json', 'r')
loaded_model_json = json_file.read()
json_file.close()
loaded_model = model_from_json(loaded_model_json)

# load weights into new model
loaded_model.load_weights("Data/model.h5")
print("Loaded model from disk")

# evaluate loaded model on test data 
# Define X_test & Y_test data first
loaded_model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
score = loaded_model.evaluate(X_test, Y_test, verbose=0)
print ("%s: %.2f%%" % (loaded_model.metrics_names[1], score[1]*100))

这对我从 json 和 h5 加载模型很有用。如果你使用@InheritedGeek 的例子,请确保你记住了model.compile()。在调用 model.evaluate 之前需要它。很好的例子,谢谢!
d
desertnaut

根据官方文档https://keras.io/getting-started/faq/#how-can-i-install-hdf5-or-h5py-to-save-my-models-in-keras

你可以做 :

首先通过运行测试你是否安装了 h5py

import h5py

如果您在导入 h5py 时没有错误,您可以保存:

from keras.models import load_model

model.save('my_model.h5')  # creates a HDF5 file 'my_model.h5'
del model  # deletes the existing model

# returns a compiled model
# identical to the previous one
model = load_model('my_model.h5')

如果需要安装 h5py http://docs.h5py.org/en/latest/build.html


这似乎不适用于带有 h5py 2.9.0 的 Keras 2.2.4。我收到以下错误:Anaconda3\envs\synthetic\lib\site-packages\keras\utils\io_utils.py",第 302 行,在 getitem raise ValueError('Cannot create group in read only mode.')
D
Dharman

我在这个错误上挣扎了一会儿,然后意识到我不小心使用了

with open(f'path_to_filename/{filename.h5}', "rb") as file:
    loaded_model = tf.keras.models.load_model(file)

尽管此语法不打算与此负载模型函数一起使用,

写这个的正常方式对我有用

loaded_model = tf.keras.models.load_model('path_to_filename/filename.h5')

T
TRINADH NAGUBADI

我是这样做的

from keras.models import Sequential
from keras_contrib.losses import import crf_loss
from keras_contrib.metrics import crf_viterbi_accuracy

# To save model
model.save('my_model_01.hdf5')

# To load the model
custom_objects={'CRF': CRF,'crf_loss': crf_loss,'crf_viterbi_accuracy':crf_viterbi_accuracy}

# To load a persisted model that uses the CRF layer 
model1 = load_model("/home/abc/my_model_01.hdf5", custom_objects = custom_objects)

没有model.save()。只有model.model.save()。并且加载这个模型并以原始创建的模型方式使用它会导致错误。加载的对象是
我在那个链接上得到了 404
@TRINADH NAGUBADI,请更新链接,该页面不再存在。