Dator
 |  Startsida |  Hårdvara |  Nätverk |  Programmering |  Programvara |  Felsökning |  System |   
Programmering
  • C /C + + -programmering
  • Computer Programspråk
  • Delphi Programmering
  • Java Programming
  • JavaScript programmering
  • PHP /MySQL Programmering
  • perl Programmering
  • python Programming
  • Ruby programmering
  • Visual Basics Programmering
  • * Dator Kunskap >> Programmering >> Computer Programspråk >> Content

    Hur man beräknar Floating Point Precision

    Ett ​​flyttal är ett nummer kodat i bas 32 ​​format i binär datakod . Precisionen för ett flyttal avser täthet specifikationen , eller antalet signifikanta siffror av information som kan lagras med antal . Precisionen för varje typ av flyttal är densamma eftersom samma antal bitar används för samma funktion , oberoende av storleken på talet . De två vanligaste sorterna av flyttal är singlar som består av 32 bitar och fördubblar består av 64 bitar . Saker du behöver
    Calculator
    Visa fler instruktioner
    32 - Bit Single Floating Point
    1

    Börja med nummer 32 , om du beräkna precisionen av en singel - sized flyttal . Eftersom ett flyttal består av en kombination av 32 ettor och nollor , det finns exakt 32 olika bitar av information som kan representeras i ett flyttal .
    2

    Subtrahera en bit att ta hänsyn till den positiva eller negativa karaktären av numret. Den 31: a biten i en enda flytande punkt heltal används för att representera tecknet av numret, positiv eller negativ. Alla återstående bitarna används för att lagra resten av flyttal information.
    3

    Subtrahera åtta bitar från de återstående 31 bitar att ta hänsyn till dem som används för att bestämma exponenten av numret . Dessa åtta bitar används för att bestämma positionen för flyttal är decimal , men används inte för att lagra målnumret själv . Efter redovisning av de bitar som representerar exponenten och tecknet för en enda flyttal , det finns 24 extra oanvända bitar . Dessa 24 bitar används för att lagra exakt numerisk information , och därför har en enda flyttal 24 bitars precision
    64 - Bit Double Floating Point
    4

    Start . med nummer 64 , vilket motsvarar antalet bitar i en dubbel flyttal .
    5

    Subtrahera en bit att ta hänsyn till den bit som lagrar positiva eller negativa tecken information. Detta ger 63 återstående oanvända bitar .
    6

    dra av 10 bitar att ta hänsyn till den del av den dubbla flyttal som används för att lagra numret s exponent information. Denna beräkning ger 53 återstående bitarna , så en dubbel flyttal har 53 bitars precision .

    Tidigare:

    nästa:
    relaterade artiklar
    ·Hur man gör en SWF-fil till en URL- knappen
    ·Hur man kompilerar Fortran 77 på Ubuntu
    ·Begreppen MATLAB
    ·Hur man skriver div-taggar
    ·Syntax för en funktion
    ·Vad är array Programmering
    ·Hur att placera text över en bildfil i HTML
    ·Hur du ändrar en PanelView
    ·Programmerbara spel för en TI 86
    ·Hur man gör en radmatning i XSLT
    Utvalda artiklarna
    ·Hur man skapar en tagg i PHP
    ·Hur du formaterar kolumner i Java
    ·Hur till Bädda in PHP-kod i JS -filer
    ·Hur man gör ett flödesschema med två argument
    ·Hur man gör Listbox Kontroll redigeras i C + +
    ·Så inte logga in på XP med ett lösenord
    ·Hur man skriver ett manuellt steg - för-steg Case Soft…
    ·Hur du använder funktioner i QBasic
    ·VB Code Integer till String Konvertering
    ·Hur hitta URL-strängar i ColdFusion
    Copyright © Dator Kunskap http://www.dator.xyz