ChatGPT Mantık Tuzağı

Nisan ayında, yazılım mühendisi olarak işe başladım.

Yıllarca yazılımla alakalı hiçbir şey yapmamıştım. Elektronik mühendisi olarka, yazılım benim için kenarda işime yaradığı kadar ya da yazılım dili olarak düşünürsek, derdimi anlatacak kadar sahip olduğum bir şeydi. Önceki proje yönetimi tecrübem, herhangi bir soruna nasıl yaklaşmam gerektiği konusunda beni eğitmişti ama yazılım konusunda değil.

Biraz aldığım kurslar, biraz pratik biraz da ChatGPT, bu işi bulmamda yardımcı oldu. İşe başladığımda, tecrübeli bir iki kişi olur ve destek olur diye düşünüyordum ama olmadı. Tecrübeli eleman freelancer’dı ve kısa süre sonunda ülkesine döndüğü için, ondan alabildiğim tek şey genel işlevlerdi.

Hem fabrikanın hem de ürünlerin sorunlarıyla başbaşa kalmıştım. Bir yandan tüm detayları anlamaya çalışırken, bir yandan da çözüm üretim uygulamaya çalışıyordum. Bu konuda, ChatGPT en büyük danışmanım oldu.

6 ayın sonunda, iki satır kod yazamayan ben, Sorunları çözebilen, hatayı anlayan, chatgptye burun kıvıran bene dönüştü.

GPT’yle Yolları Ayırma Vakti

GPT’den soğumam basit bir teknik sorunla başladı. Biraz tembellikten, biraz da problemi küçük görmemden dolayı; kopyala&yapıştır iş yapmaya çalıştım. Doğru komutu ver ve iş bitsin. Sonuçta basit bir problem. ChatGPT de, gayet emin cevapladı. Denedim olmadı. Bir daha sordum, yine olmadı. Her sorduğumda farklı hatalar bulup, beni yanlış yönlendirmeye başladı. Sorunu ve çözümü bildiğim için ısrarla, şurayı düzelt burayı düzelt diyordum. Çözümü tam oalrak bilmesem de, ne yapması gerektiğini biliyordum ama olmadı.

Neredeyse oluyor, işin çoğu bitti

1-2. gün: Hızlı denemeler, yüzeysel kontroller.

3-4.gün: Prompt konusunda ısrarlarım. Bu sefer olacak. Şurayı düzeltse bitti. Oldu olacak. Bu kod çalışmalı.

5-6.gün: Her sorduğumda, kalsın dediğim yerlere ufak dokunuşlar yapıyor. Kod bir öncekinden farklı her seferinde. Sonuç alamıyorum. İlk kodumdan da, çok farklıç

1 Hafta sonra: Ufak sorun tüm haftamı yedi. Artık sorumluluk alma vakti geldi. Şu kodu baştan kendim yazayım.

1 Saat sonra: Test edelim. ÇALIŞTI!

İşte o gün, ChatGPT’ye bütün kod yazdırmayı, tüm sistemi anlatmayı bıraktım. ChatGPT’nin nasıl manipule ettiğini de, yaşamış oldum. Verilen cevaplar o kadar bütün ve iyiydiki; temelde hata yapabileceğini düşünmemiş ve beni yönlendirdiği yere odaklanmıştım. Halbuki, en başta yanlış yola gitmiş.

Tuzağın Mekaniği

1. Otorite Yanılgısı: Akıcı cevap doğru hissettiriyor. Konuya hakim değilsen, buna kanıyorsun. Güven, doğruluk anlamına gelmiyor.
2. Bağlam kayması: Her yeni promt sorunun şeklini biraz değiştiriyor. Artık problem aynı problem olmaktan çıkıyor ve benzerlerini çözmeye başlıyorsun. İstatistiksel bir araç olarak da, sana kabul görmüş genel .çzümler üzerinden sonuç veriyor. Ya da senle alakaslı olamyan çok özel çözümlere dayanarak.
3. Doğrulama Boşluğu: Test yazmak yerine düzgün yazılmış cümle okumak kolay geliyor. Zaman kazanacağım derken, kendini gergin bir tartışmanın içinde buluyor ve inatlaşıyorsun. ‘Bunu yapmak neden bu kadar zor’ diye bir cümle yazdım GPT’ye. Oturup yazsam, yarım günü kurtaracaktım. Ama inatlaştım. Onu kişiselleştirmek, insanmış gibi yazmak da ayrı canımı sıktı.
4. Promt Mühendisliği Aşırılığı: Ğroblemi çözmek yerine soruyu daha iyi sormaya çalışıyorsun. Kİmi zaman da, basit bir problemi anlatman gerekiyor çünkü genel bir problem değil. Sistem anlaşılmadan, cevap bulmak zor.
5. Gerçek Kaynağın olmaması: Gerçekliğin bir anlam ifade etmediği çağdayız. Doğru cevap ve gerçek; bize göre, algımıza göre değişiyor.

Aslında bu yapay zekanın bir yandan birçok işi alacağı, tekrar eden işlerin yerine geçeceği gerçeğinin yanında; sistemsel düşünceninin, alan bilgisinin, çok yönlülüğün de daha önemli olacağının göstergesi. Nasıl sanayileşme, ofis işlerini getirdiyse; yapay zeka da, daha çok yönetim işlerini getirecek. Birçok şeyden anlamak, kritik düşünce, çok yönlülük, sistemsel yaratıcılık; teknik yeterlilikten daha önemli yetenekler haline gelecek.

ChatGPT’yi Doğru Kullanma

İnternetten beslenen bir istatistik aracı GPT’ler. Kendi probleminize odaklanması için, doğru şekilde yönlendirilmesi, gerekirse eğitilmesi gerekiyor.

1. Problemi Bilim İnsanı Gibi Tanımlayın: Mevcut davranış, beklenen davranış, ortam ve versiyonlar. Minimal bir test örneği ve kısıtların ne olduğu gibi.
2. Cevap değil yapı isteyin: Düşünceleri toplama ve düzene sokma konusunda çok başarılı. O yüzden, çözümden çok çözüm yolu üzerine odaklanmak faydalı olabilir. Teşhis ağacı gibi. X olursa Z;Ze bak.. Kontrol listesi ve test senaryosu isteyin. Döküman özetleri isteyin.
3. Doğrulama: Her öneri için kendi basit testini yazmak en mantıklısı. Parça parça test edilebilir olmalı. Sonuçları da, beklentinle kıyasla
4. Süre Sınırı: Benim gibi inatlaşmayın yoksa haftalar yok olabilir.

ChatGPT’yi ne zaman kapatmalı?

Hatalı davranışları küçük örneklerle gösteremiyorsan, cevaplar sürekli değişiyorsa, okuyup üzerinde düşünmüyorsan sadece kopyalıyorsan orada durma vakti. Cevapları anlamadan test etmeye çalışıyorsan, kodun ya da verilen cevabın her bir satırını anlamıyorsan, ChatGPT’yi bırakıp konuyu anlamaya çalışmak önemli.

ChatGPT’nin Gücü

Bazen bilgi birikimin ve tecrüben farklı düşünmeni engelliyor. Bu noktada ChatGPT bazen iyi çözümler sorabiliyor ama sorarken, bunu istemen lazım. Yoksa duymak istediğini yazıyor.

Yazılımda, hata mesajlarını basitleştirip, anlamaya çalışmada oldukça başarılı. Benzer şekilde problemi parçalayıp, parça parça anlamada ve analiz etmede de iyi.

Test şablonları ve yapı iskeletleri oluşturma konusunda da iyi. Yani düşüncelerini ve çözüm önerinizi belli bir kalıba okmada ve organize etmede.

Benzer şekilde sonuç kıyaslamada ve özetlemede de, kısmen başarılı.

Kıssadan Hisse

Bence yapay zekanın şu anki hali, ceplerimize girişi, günlük hayatımıza girişi; endüstri devrimi, tekerleğin bulunması, ateşin bulunması kadar büyük bir devrim. O nedenle, hayatımızdan çıkma ya da göz ardı edilme şansı yok. Günlük hayatı birçok konuda kolaylaştırıyor ama her teknoloji gibi doğru kullanılması önemli.

Farkında olmadan düşüncelerinizi körertip, sizi aynı döngünün içine sokabiliyor. İlerliyorum zannediyorsunuz ama aksine başa sarıp duruyorsunuz.

O nedenle nerede duracağını bilmek kadar, teknolojinin sınırlarını, psikolojik etkisini de bilmek, farkında olarak kullanmak önemli.