研究生吧 关注:477,421贴子:7,327,941

问大家一个问题

只看楼主收藏回复

好不容易弄出一个神经网络,效果还行,结果老师说要做消融实验,就是每次删除一个特征,然后用后向选择。
但是神经网络每次都是调出来的,怎么可能在特征变化的时候,神经网络不可能一直表现好啊。
然后老师直接怀疑我代码写错了,我用的是tensorflow,就调用了一些接口。
他承认自己不懂神经网络,但是他认为少几个特征,神经网络就不行了,一定是我的问题。
他说这么做是想知道哪些特征更有用。
我解释了很多,他基本不听,也不去了解,因为他认为神经网络和普通机器学习一样的,没有值得深入研究的价值。
然后我直接卡死在原地。神经网络每次跑出来的结果都不能一直固定,我怎么可能做什么后向选择呢。
大家有什么看法?


IP属地:重庆来自Android客户端1楼2023-07-28 00:11回复
    无论你说什么,反正错的就不是他


    IP属地:四川来自Android客户端2楼2023-07-28 09:08
    收起回复
      写一个分析报告


      IP属地:浙江来自Android客户端3楼2023-07-28 09:13
      收起回复
        某些方面上特征工程对dl帮助有限,不过既然导师说了你就把数据列给他吧……


        IP属地:辽宁来自Android客户端5楼2023-07-28 11:16
        回复
          把神经网络参数保存下来


          IP属地:河南来自Android客户端7楼2023-07-28 12:13
          收起回复
            加个注意力机制筛特征


            IP属地:上海来自Android客户端8楼2023-07-28 12:53
            收起回复
              兄弟,我和你一样,每次跑的都不一样,即使把随机种子全都固定了也一样。有时候真的不知道是随机性的提升还是真的有提升,正经做实验取平均值耗时太多了


              IP属地:辽宁来自Android客户端10楼2023-07-28 13:28
              收起回复
                随机种子定好再设置个deterministic implementation应该就能训练结果都一样了


                IP属地:江苏来自iPhone客户端11楼2023-07-28 14:32
                收起回复
                  导师的要求就是,在我之前选好的模型基础上,一个一个删除特征,然后重新训练神经网络,看神经网络表现如何,这样来寻找最好的特征。这样就会导致神经网络输入层节点数减少,神经网络结构变化,这样真的有对比性嘛
                  另外,特征都变了,还用原来的模型,这样能衡量特征的重要性嘛。根据天下没有免费的午餐定律,只能说我的模型不适合现在的特征吧。


                  IP属地:重庆来自Android客户端12楼2023-07-28 15:00
                  收起回复
                    听导的话


                    IP属地:湖北来自Android客户端13楼2023-07-28 15:24
                    回复
                      auc都不知道,你那老师真的是理工科的吗


                      IP属地:上海来自iPhone客户端14楼2023-07-28 15:25
                      收起回复
                        我老师虽然也不怎么懂神经网络,但是指标和思路啥的还是挺清晰的


                        IP属地:上海来自iPhone客户端15楼2023-07-28 15:25
                        回复
                          我刚刚学了一点皮毛神经网络。不是很懂意思,是不是你老师想玩什么“控制变量法”去看看那些特征是最重要的。但是更改特征数量原模型不一定合适可能会导致结果混乱没有参考性,反而不能得出科学结论的意思吗?


                          IP属地:江西16楼2023-07-28 15:54
                          收起回复
                            删除一个特征?这是什么意思?
                            你导是不是以为深度学习网络模型是钉死的东西,输入对输出是单射?


                            IP属地:湖北来自iPhone客户端17楼2023-07-28 16:26
                            收起回复