我一直在胡思乱想,试图让我创建的简单示例发挥作用,因为我发现给出的示例很难直观地掌握大型复杂数据集。下面的程序采用权重列表 [x_0 x_1 ... x_n] 并使用它们在添加了一些随机噪声的平面上创建点的随机散射。然后我训练简单的神经网络在此数据上并检查结果。
当我使用图形模型执行此操作时,一切都完美无缺,随着模型收敛于给定的权重,损失分数可预测地下降到零。但是,当我尝试使用顺序模型时,没有任何反应。代码如下
如果您愿意,我可以发布我的其他脚本,该脚本使用图形而不是顺序,并显示它完美地找到了输入权重。
#!/usr/bin/env python
from keras.models import Sequential, Graph
from keras.layers.core import Dense, Dropout, Activation
from keras.optimizers import SGD
import numpy as np
import theano, sys
NUM_TRAIN = 100000
NUM_TEST = 10000
INDIM = 3
mn = 1
def myrand(a, b) :
return (b)*(np.random.random_sample()-0.5)+a
def get_data(count, ws, xno, bounds=100, rweight=0.0) :
xt = np.random.rand(count, len(ws))
xt = np.multiply(bounds, xt)
yt = np.random.rand(count, 1)
ws = np.array(ws, dtype=np.float)
xno = np.array([float(xno) + rweight*myrand(-mn, mn) for x in xt], dtype=np.float)
yt = np.dot(xt, ws)
yt = np.add(yt, xno)
return (xt, yt)
if __name__ == '__main__' :
if len(sys.argv) > 1 :
EPOCHS = int(sys.argv[1])
XNO = float(sys.argv[2])
WS = [float(x) for x in sys.argv[3:]]
mx = max([abs(x) for x in (WS+[XNO])])
mn = min([abs(x) for x in (WS+[XNO])])
mn = min(1, mn)
WS = [float(x)/mx for x in WS]
XNO = float(XNO)/mx
INDIM = len(WS)
else :
INDIM = 3
WS = [2.0, 1.0, 0.5]
XNO = 2.2
X_test, y_test = get_data(10000, WS, XNO, 10000, rweight=0.4)
X_train, y_train = get_data(100000, WS, XNO, 10000)
model = Sequential()
model.add(Dense(INDIM, input_dim=INDIM, init='uniform', activation='tanh'))
model.add(Dropout(0.5))
model.add(Dense(2, init='uniform', activation='tanh'))
model.add(Dropout(0.5))
model.add(Dense(1, init='uniform', activation='softmax'))
sgd = SGD(lr=0.1, decay=1e-6, momentum=0.9, nesterov=True)
model.compile(loss='mean_squared_error', optimizer=sgd)
model.fit(X_train, y_train, shuffle="batch", show_accuracy=True, nb_epoch=EPOCHS)
score, acc = model.evaluate(X_test, y_test, batch_size=16, show_accuracy=True)
print score
print acc
predict_data = np.random.rand(100*100, INDIM)
predictions = model.predict(predict_data)
for x in range(len(predict_data)) :
print "%s --> %s" % (str(predict_data[x]), str(predictions[x]))
输出如下
$ ./keras_hello.py 20 10 5 4 3 2 1
Using gpu device 0: GeForce GTX 970 (CNMeM is disabled)
Epoch 1/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 2/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 3/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 4/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 5/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 6/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 7/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 8/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 9/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 10/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 11/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 12/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 13/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 14/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 15/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 16/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 17/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 18/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 19/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
Epoch 20/20
100000/100000 [==============================] - 0s - loss: 60726734.3061 - acc: 1.0000
10000/10000 [==============================] - 0s
60247198.6661
1.0
[ 0.06698217 0.70033048 0.4317502 0.78504855 0.26173543] --> [ 1.]
[ 0.28940025 0.21746189 0.93097653 0.94885535 0.56790348] --> [ 1.]
[ 0.69430499 0.1622601 0.22802859 0.75709315 0.88948355] --> [ 1.]
[ 0.90714721 0.99918648 0.31404901 0.83920051 0.84081288] --> [ 1.]
[ 0.02214092 0.03132355 0.14417082 0.33901317 0.91491426] --> [ 1.]
[ 0.31426055 0.80830795 0.46686523 0.58353359 0.50000842] --> [ 1.]
[ 0.27649579 0.77914451 0.33572287 0.08703303 0.50865592] --> [ 1.]
[ 0.99280349 0.24028343 0.05556034 0.31411902 0.41912574] --> [ 1.]
[ 0.91897031 0.96840695 0.23561379 0.16005505 0.06567748] --> [ 1.]
[ 0.27392867 0.44021533 0.44129147 0.40658522 0.47582736] --> [ 1.]
[ 0.82063221 0.95182938 0.64210378 0.69578691 0.2946907 ] --> [ 1.]
[ 0.12672415 0.35700418 0.89303047 0.80726545 0.79870725] --> [ 1.]
[ 0.6662085 0.41358115 0.76637022 0.82093095 0.76973305] --> [ 1.]
[ 0.96201937 0.29706843 0.22856618 0.59924945 0.05653825] --> [ 1.]
[ 0.34120276 0.71866377 0.18758929 0.52424856 0.64061623] --> [ 1.]
[ 0.25471237 0.35001821 0.63248632 0.45442404 0.96967989] --> [ 1.]
[ 0.79390087 0.00100834 0.49645204 0.55574269 0.33487764] --> [ 1.]
[ 0.41330261 0.38061826 0.33766183 0.23133121 0.80999653] --> [ 1.]
[ 0.49603561 0.33414841 0.10180184 0.9227252 0.35073833] --> [ 1.]
[ 0.17960345 0.05259438 0.565135 0.40465603 0.91518233] --> [ 1.]
[ 0.36129943 0.903603 0.63047644 0.96553285 0.94006713] --> [ 1.]
[ 0.7150973 0.93945141 0.31802763 0.15849441 0.92902078] --> [ 1.]
[ 0.23730571 0.65360248 0.68776259 0.79697206 0.86814652] --> [ 1.]
[ 0.47414382 0.75421265 0.32531333 0.43218305 0.4680773 ] --> [ 1.]
[ 0.4887811 0.66130135 0.79913557 0.68948405 0.48376372] --> [ 1.]
....
最佳答案
造成巨大错误的原因是你的labels不是二进制的而且很大,但是softmax的输出是二进制的。例如,如果标签是 10000,但你只能预测 0 到 1 之间的值,那么无论你预测什么,都会出现巨大的错误。您的意思是在最后一层 activation='linear' 进行回归吗?还是您想在 get_data() 的末尾通过 softmax 放置标签?
关于python - 试图让简单的 Keras 神经网络示例工作,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/33969059/
关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。
我在从html页面生成PDF时遇到问题。我正在使用PDFkit。在安装它的过程中,我注意到我需要wkhtmltopdf。所以我也安装了它。我做了PDFkit的文档所说的一切......现在我在尝试加载PDF时遇到了这个错误。这里是错误:commandfailed:"/usr/local/bin/wkhtmltopdf""--margin-right""0.75in""--page-size""Letter""--margin-top""0.75in""--margin-bottom""0.75in""--encoding""UTF-8""--margin-left""0.75in""-
我在我的项目目录中完成了compasscreate.和compassinitrails。几个问题:我已将我的.sass文件放在public/stylesheets中。这是放置它们的正确位置吗?当我运行compasswatch时,它不会自动编译这些.sass文件。我必须手动指定文件:compasswatchpublic/stylesheets/myfile.sass等。如何让它自动运行?文件ie.css、print.css和screen.css已放在stylesheets/compiled。如何在编译后不让它们重新出现的情况下删除它们?我自己编译的.sass文件编译成compiled/t
我花了三天的时间用头撞墙,试图弄清楚为什么简单的“rake”不能通过我的规范文件。如果您遇到这种情况:任何文件夹路径中都不要有空格!。严重地。事实上,从现在开始,您命名的任何内容都没有空格。这是我的控制台输出:(在/Users/*****/Desktop/LearningRuby/learn_ruby)$rake/Users/*******/Desktop/LearningRuby/learn_ruby/00_hello/hello_spec.rb:116:in`require':cannotloadsuchfile--hello(LoadError) 最佳
关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion在首页我有:汽车:VolvoSaabMercedesAudistatic_pages_spec.rb中的测试代码:it"shouldhavetherightselect"dovisithome_pathit{shouldhave_select('cars',:options=>['volvo','saab','mercedes','audi'])}end响应是rspec./spec/request
在Rails4.0.2中,我使用s3_direct_upload和aws-sdkgems直接为s3存储桶上传文件。在开发环境中它工作正常,但在生产环境中它会抛出如下错误,ActionView::Template::Error(noimplicitconversionofnilintoString)在View中,create_cv_url,:id=>"s3_uploader",:key=>"cv_uploads/{unique_id}/${filename}",:key_starts_with=>"cv_uploads/",:callback_param=>"cv[direct_uplo
有没有办法在这个简单的get方法中添加超时选项?我正在使用法拉第3.3。Faraday.get(url)四处寻找,我只能先发起连接后应用超时选项,然后应用超时选项。或者有什么简单的方法?这就是我现在正在做的:conn=Faraday.newresponse=conn.getdo|req|req.urlurlreq.options.timeout=2#2secondsend 最佳答案 试试这个:conn=Faraday.newdo|conn|conn.options.timeout=20endresponse=conn.get(url
我想在Ruby中创建一个用于开发目的的极其简单的Web服务器(不,不想使用现成的解决方案)。代码如下:#!/usr/bin/rubyrequire'socket'server=TCPServer.new('127.0.0.1',8080)whileconnection=server.acceptheaders=[]length=0whileline=connection.getsheaders想法是从命令行运行这个脚本,提供另一个脚本,它将在其标准输入上获取请求,并在其标准输出上返回完整的响应。到目前为止一切顺利,但事实证明这真的很脆弱,因为它在第二个请求上中断并出现错误:/usr/b
我意识到这可能是一个非常基本的问题,但我现在已经花了几天时间回过头来解决这个问题,但出于某种原因,Google就是没有帮助我。(我认为部分问题在于我是一个初学者,我不知道该问什么......)我也看过O'Reilly的RubyCookbook和RailsAPI,但我仍然停留在这个问题上.我找到了一些关于多态关系的信息,但它似乎不是我需要的(尽管如果我错了请告诉我)。我正在尝试调整MichaelHartl'stutorial创建一个包含用户、文章和评论的博客应用程序(不使用脚手架)。我希望评论既属于用户又属于文章。我的主要问题是:我不知道如何将当前文章的ID放入评论Controller。
使用Ruby1.9.2运行IDE提示说需要gemruby-debug-base19x并提供安装它。但是,在尝试安装它时会显示消息Failedtoinstallgems.Followinggemswerenotinstalled:C:/ProgramFiles(x86)/JetBrains/RubyMine3.2.4/rb/gems/ruby-debug-base19x-0.11.30.pre2.gem:Errorinstallingruby-debug-base19x-0.11.30.pre2.gem:The'linecache19'nativegemrequiresinstall