Tujuan penelitian ini untuk mengetahui faktor psikologi Overconfidence, Social Interaction dan Emotion terhadap pengambilan keputusan investor ketika bertransaksi di pasar modal syariah dan konvensional yang sampelnya mahasiswa UMY. Penelitian ini menggunakan purposive sampling yaitu 60 investor saham syariah dan 40 konvensional. Pengujian hipotesis ini menggunakan 2 metode yaitu SmartPLS 3.0 dan wawancara, dari hasil penelitian menghasilkan bahwa terdapat perbedaan psychological factor dalam pengambilan keputusan investor bertransaksi pada pasar modal syariah dan konvensional. Faktor Overconfidence dan Social Interaction tidak berpengaruh dalam pengambilan keputusan investor bertransaksi di pasar modal syariah, namun pada faktor Emotion berpengaruh dalam pengambilan keputusan bertransaksi di pasar modal syariah. Sedangkan pada faktor Social Interaction dan Emotion tidak berpengaruh dalam pengambilan keputusan investor bertransaksi di pasar modal konvensional namun pada faktor Overconfidence berpengaruh terhadap pengambilan keputusan bertransaksi di pasar modal konvensional.